张怀芝在大败之后，先是从萍乡退往樟树镇，又由樟树镇退到汉口，一路上马不停蹄地撤退，同时又致电北京政府，宣称自己旧疾复发，山东地方突起匪患，所以必须赶回山东处理政务，举荐徐树铮出任第二路司令，率所部奉军接防湘东。正在策划安福国会的徐树铮不愿接任，张怀芝遂举荐张敬尧、陈光远，甚至提出由曹锟兼任。张怀芝原本极力主张南征，如今忽然急于回到山东，原因不外乎有二：一是他经此一败，发现与南军作战并不似想象中那么容易；二是他久离山东老巢，恐怕代理督军的第五师师长张树元生变。当时北洋系的地方军阀多是先代理然后转正，下级当了上级便不再当上级是上级了，从“北洋三杰”到地方督军莫不如此，因此张怀芝才忧心，一旦南征失利，他又丢掉了山东老巢，那就真正成了丧家之犬。张怀芝渴望回山东，真是归心似箭。
但临阵易帅并不容易，加上彼时的皖系中确实也再没有几个能征善战的将领，靳云鹏称病，傅良佐兵败，倪嗣冲也不是善战之将，至于段芝贵、卢永祥、田中玉、吴光新等既难以服众也不是统兵的上佳人选，加上当时国会选举迫在眉睫，徐树铮不能前去，段祺瑞一时也想不出更好的人选。段祺瑞终归是“过来人”，自然明白张怀芝的心思，于是以国务院名义向张怀芝保证“鲁督决不易人”，并且保证会继续向南征第二路军运送枪械和兵员，力劝张怀芝立即由汉口前往江西主持军事。