帖木儿也举城投降。
之后，冯胜收到中路军战败的消息后，以“化外之地不可守”为由焚城返回。在回师路上，西路军在别笃山口大败北元岐王朵儿只班，俘虏北元平章长加奴等二十七人及牲畜十余万头。傅友德率军追击到瓜州（今甘肃安西）、沙州（今甘肃敦煌西北），再次大胜，俘获岐王的金银大印和牲畜两万头，然后胜利班师。
李文忠统率的东路军一部于六月二十九日攻到口温（今内蒙古查干诺尔南），北元守军闻讯逃走，留下很多牛马辎重被明军俘获。
李文忠留部将韩政看守辎重，然后他率主力顺着哈剌莽来（今蒙古洪戈尔）、胪朐河追击元军，在土剌河、阿鲁浑河（即今鄂尔浑河，位于蒙古乌兰巴托西北）一带与元将蛮子哈剌章激战多日。
最终北元军被击败逃走，明军俘虏的北元人马数以万计，但东路军死伤也很多。李文忠继续追击，一直追到称海（今蒙古哈腊乌斯湖南、哈腊湖西），各路北元军又会聚起来回攻东路军。
李文忠见无法取胜，就决定退兵，一路以兵法故布疑阵，才得以全身而退。而北元军队害怕明军有埋伏，不敢追击，双方脱离接触。东路军虽有一定优势，但没有完全击败所遇元军。
洪武五年十月，冯胜先从甘肃班师回京。十一月，徐达、李文忠也因“塞上苦寒”奉诏回到了应天。
从总体上看，徐达此次北征大漠，得不偿失。自洪武五年北征失利后，促使朱元璋决定采纳苏琦的建议，在很长一段时间内经营长城防线。