国民参政会在召开第一次会议后再次西迁到四川重庆。梁漱溟不愿离开抗日前线，他四处奔走，安排山东乡村工作人员回鲁抗敌。但他却被选为国民参政会驻会委员，只好与同志们告别，随参政会到西南大后方。
无法与同志们并肩作战使得梁漱溟于心难安，更何况与前方消息隔绝，不能及时了解朋友们的状况。于是，梁下决心要选择一项重要的工作为抗战做一番实事。
对于后方而言，重要的工作无非是保证物质供给和提供充足、训练有素的兵源。而当时办得最糟糕的，恰恰是兵役问题。对于国家而言得不到好兵源，另一方面农村也因征兵而苦不堪言。这对于素来重视农村问题的梁漱溟而言，自然是痛心疾首，无法坐视。于是他最终决定选择改善兵役作为自己在后方头等大事。
从此，梁漱溟开始着手于改善兵役的研究。他一方面到乡村调查，收集事实；另一方面又向政府有关部门了解有关法令和现行的规章制度。在研究过程中，他又遇到了许多所见略同的朋友，于是他们便共同研究并向社会大声呼吁，寻求支持，一度使改善兵役运动成为社会舆论的焦点。
1938年6月，四川省政府召开会议讨论兵役问题，并请梁漱溟与会指导。梁漱溟当时刚开始研究，于是仅仅就征兵困难的原因作了解释，说明了征兵若想成功必须具备的条件。
之后，梁漱溟邀请王寅生、吕超、孔庚等人共同拟定了具体计划，并召开座谈会，征集四川省动员机构、兵役监督系统、出征军人家属联合会等多方面意见，对具体计划进行修改完善。
计划已经完成，下一步就需要政府了解采用，梁漱溟明白，这必须由地方上有声望有资历的人出头才行。于是，他找到四川省府主席王缵绪帮忙，并说动省前主席、声望极高的教育家张澜出面一起去见军委会重庆行营主任张群商量。张群实际负责兵役之事，正为此事而发愁，听了梁的意见后极为高兴，表示完全同意梁的计划，并马上就人力、费用方面着手准备。只等10月10日四川省府全体宣誓就职后，即按预定计划改革省动员系统。
在各方面的积极努力下，改善兵役初期进展顺利，在四川乃至全国产生相当的影响，并于1939年10月正式成立兵役实施协进会。正当梁漱溟等人以为可以松口气时，事情发生了转变。首先是参与此事的四川籍人士态度消极，似乎触动了他们的利益，各方面无法协调配合。梁漱溟作为一个外省人无计可施，只好自动退下阵来，离开了成都。
此时，恰逢国民参政院第二次会议召开，梁漱溟仍就兵役问题提出一个建议案，经大会通过后咨送国防最高会议，国防最高会议照案交由行政院军委会办理，但最终仍是没有结果。又过了3个月，参政会第三次会议召开，梁漱溟虽几经挫折但仍不死心，再次提出建设案，然而遗憾的是，有人向最高当局进谗言，一度轰轰烈烈的改善兵役运动不了了之，兵役实施协进会也于1940年被蒋介石亲自下令解散。梁漱溟的改良主义行动再一次破灭。
