光绪十六年（1890年），武训与当地的寺院合作，在馆陶县办起了第二所义学。光绪二十二年（1896年），他又靠着行乞的积蓄，再加上临清县众官绅的资助，在临清县办起了第三所义学。由于武训一心扑在兴办义学之上，一生都未娶妻，甚至连份房产都没有。
后来，山东巡抚张曜在听闻了武训的义举之后，曾亲自召见他，随后又下令免除了义学的钱粮和徭役，还捐赠给他200两白银，并赐名“武训”。
与此同时，他又上奏光绪帝，给他颁发了一块题有“乐善好施”的匾额。当朝廷得知武训的事迹后，整个朝野都轰动了，光绪帝便授予他“义学正”的名号，并赏穿黄马褂，而他的声名也从此名震大江南北。
武训可以说是百年蒙昧中的先觉者之一，他兴办义学的举动，更是一次将精英教育转向平民教育的伟大尝试。这一举措，不仅表现出了其对社会底层百姓强烈的同情心和博爱精神，也体现了中国自古以来“仁者爱人”的传统，对“大爱无疆”一词作了最为充分的诠释。