随着西安府白马会众的灭亡，整个陕西迅速被讨虏平定。陈玉成一边向圣京的冯云山报捷，一边马不停蹄地组织兵力，准备进军甘肃和阿拉善厄鲁特旗地区。
不过，自从进入陕西以来，陈玉成越发感觉到步兵的局限。西北地区与南方和中原一带不一样，只要一离开富饶的关中平原，便会地广人稀起来。
陈玉成一打听，说是有时候几十里都碰不到一个镇子，遇不到一个人烟，他便知道，在用以前的步兵模式，已经是行不通了，再往西北，必须组建一支大规模的骑兵才行。
幸好，陈玉成早有准备，一路上，他们甲三师和乙三师以及河南新军军团一直搜集马匹，加上击败了白马会匪，这些白马会匪拥有不少的牛马，均被讨虏军缴获，此时已统计，竟然发现可以用于赶路的战马便有一万余匹，而可以拉炮和运输粮食补给的牛马更是多达二三万匹。
陈玉成打算利用这段时间，进军甘肃的路上，用来训练将士们骑术，就算不能训练出一批骑兵，至少也是一批能骑马赶路的马上步兵也行。
甘肃原本是满清驻守西北的重地，驻扎的绿营兵本是内陆省份中兵员最多的省份。但自从满清朝廷被推翻以来，整个甘肃便乱了套，逃的逃，躲得躲，如今的甘肃清兵已经不多，而且还大部分被甘肃的白马会众给赶跑了。整个甘肃，已经是一片混乱。
不过，即便是这样，就整个甘肃来说，满清的主要兵力都固守兰州府，原本的宁夏镇、西宁镇、凉州镇和肃州镇这甘肃四镇兵力，共三万余人，如今已经四散逃窜，只余下万余人，一部分逃入兰州城内紧守，另一部分还滞留在西宁城内，其余的个甘南的各州府兵力，连同少量的八旗兵，被从西安逃来的西安将军扎拉芬沿途召集，赶至宁夏城中，不过，一进入宁夏城，便被金积堡的白马战兵全部围困起来，苦苦支撑着。
其他州府，已经没有大规模的兵力了。
而白马会匪，主要集中在二处地方。一是平凉府，有两股白马会众势力。
固原州的白纳三，手下有李得舱、田成集等大将，白马战兵五六万。而平凉府城郊外的马穆三，人称穆三爷，乃是白马会中的长老级人物，他以莲花城、张家川为基地发动起义，组成“白马南八营”，他的部众戴白帽，打绿旗，旗上书“抗清扶明”口号，并用明代崇祯年号纪年，发布命令不准滥杀无辜地方乡民，在平凉州一带名声不错，但却遭白马会中的主力宁夏府城一带的白马战兵所排挤。
而要说另一股势力，最为强大，却是宁夏府灵州县一带以金积堡为中心的马花龍势力，他字称白马会会长，手下汇集了宁夏府和庆阳府一带的白马会精壮战兵十余万。因此，尽管这些白马会反清势力尚未统一，却又暗暗勾连，互为倚靠。金积堡的马花龍，隐隐有整个甘肃白马会大首领的架势。
理顺了甘肃的形势，陈玉成和林启荣一商议，便决定立即出兵。
两人各率自己的军队，再各自加上一万新兵，直奔平凉府。而西边的甲四师和甲六师，在梁立泰和罗琼树的率领下，连同三万新兵，经过巩昌府，直奔兰州城。其余的一万新兵，便散开，巩固西安府和秦州府一带的治安驻防，防止零星白马会众死灰复燃。
兵分两路，时间不等人，陈玉成他们是想着一举将甘肃平定。
半个月后，当甲三师和乙三师以及二万新兵气势如虹地一路攻克州县，行军到平凉府城境内时，平凉府城一带的白马会首马穆三派人求见，表示不愿与讨虏军为敌，只要求平凉城归他们所有，他们自治，他们保证不出平凉县境损害讨虏军和百姓。
陈玉成当即拒绝，要求对方亲自来与自己面见商议休兵事宜，并且强调，必须投降，讨虏军可不杀俘虏。
但马穆三将信将疑，不肯答应下来。这也难怪，天下没有不透风的墙。讨虏军在西安府击杀白马会众十余万人，尽管讨虏军一直封锁消息，但西安白马会众全军覆没的消息，还是传了出去，而陈玉成的“杀人魔王”的名头也早在陕甘一带声名远扬，甚至能止小儿夜啼。
但正因为这支讨虏军杀白马会众如麻的经历，才让马穆三如此慌张，还未开战便派人来试探投降的底线。
这一试探，发现这“杀人魔王”的口气十分强硬，马穆三更是担心了。
无奈之下，他便准备接受。他知道，除非离开生活多年的平凉，否则，打是打不过讨虏军的，只有投降，说不定还能捡回一条活路。
可他这样想，他手下的白马会众不这样想。除了他弟弟马穆辉表示愿意誓死追随他外，其余的手下将领，竟然集中叛乱，直接将马穆三杀死，率众逃往平凉府的北部固原州，投奔雄踞固原州的白马会首领白纳三。混乱中，马穆三的弟弟马穆辉，率领不到一万的白马战兵，直接放弃些木棒竹竿之类的武器，无条件归顺了讨虏军，要求讨虏军为他哥哥报仇。
有了马穆辉的这一万白马战兵的带领，讨虏军势如破竹，直接攻克华亭、崇信和平凉府城以及隆德等州县，兵围固原州城。
固原的白马会众首领白纳三，下令李得舱和田成集两名手下，率领四万主力白马战兵，不待刚刚赶到的讨虏军扎营，便发起进攻，却没想到，被讨虏军正面野战之下，一战即溃。随即，讨虏军发起冲锋，击毙白马战兵二万余人，其余的或逃入固原州城，或四散逃窜，讨虏军顺势一举攻克固原州城，李得舱和田成集两人被直接击杀，白纳三率领万余白马战兵逃往北面的宁夏府。整个固原的白马会众瞬间瓦解。
不过，陈玉成和林启荣却发现，不但平凉府城和隆德等县境内，地方乡民和百姓并没有遭受残杀，而固原州城内，竟然也有不少地方乡绅和百姓，除了被逼迫捐献些粮食和银两外，并没有被屠杀一空。
再通过一些了解，发现包含固原州在内的整个平凉府，都没发现白马会众大规模杀害当地乡民的事情。于是，陈玉成和林启荣两人讨论后，决定不与西安府的白马会众一样对待，直接将众白马战兵俘虏起来，宣布要他们关押五年，恕罪后再释放为民。
不过，为防夜长梦多，陈玉成下令，押着五千白马战兵，迅速北上，攻往白马会众的老巢，宁夏府城南的金积堡。
有了平凉府的先例，不久，金积堡的白马会会长马花龍派人送来信函，声称愿意归顺中华帝国，也愿意散撤十万白马战兵，但请求保留一半兵力，供养白马战兵五万人。
陈玉成不由冷笑，这是很明显的想要自立为王了，他想在中华帝国的领地建立国中之国呢！陈玉成让信使直接捎口信回去，所有白马会众，必须无条件投降，否则，一旦讨虏军大兵压境，鸡犬不留。
不得不说，一路上碰到的白马战兵精锐，精锐是些手持竹竿木棒之类的兵器，让陈玉成都高傲了不少。