洪武五年明軍北征，遭受重大挫敗，使朱元璋和他的大將們清醒認識到殘元的實力，單純依靠明軍的武力，無法根除來自對方的威脅，必須做出新的嘗試。

洪武六年初，朱元璋再一次任命徐達為征虜大將軍，李文忠、馮勝、鄧愈、湯和四人為副將，但這一次不是讓他們率軍北征，而是分別在山西、北平練兵防御。而這一年，王保保分別派兵攻打雁門關和大同，徐達派兵迎擊，雙方?jīng)]有更大規(guī)模的交戰(zhàn)。

此后多年，雙方交戰(zhàn)不多。洪武八年，徐達、李文忠等人依然輪流鎮(zhèn)守北平和山西，殘元方面也沒有太的動作。

洪武九年的秋天，伯顏帖木兒率軍進犯延安，被傅友德打敗并投降。

明軍也有過小規(guī)模的出擊，比如洪武七年四月，藍玉在白酒泉大敗元軍，攻占興和。另一次是七月，李文忠在大寧、高州大敗元軍。

積極防御的同時，朱元璋也不斷向殘元方面釋放善意。

洪武四年九月，朱元璋給二兒子、秦王朱樉娶了王保保的妹妹做王妃，意圖再明顯不過，就是希望改善與殘元的關系。

洪武六年六月，朱元璋使用他一貫的手法，派元軍的降將盧道興充當使者，前去招降殘元的太尉伯顏不花，結(jié)果被王保保的弟弟脫因帖木兒殺死。

洪武七年，朱元璋又派李思齊去招降王保保。李思齊曾經(jīng)是王保保的政敵，洪武二年四月在臨洮向馮勝投降，朱元璋任命他為江西行省左丞，以后又讓他跟隨徐達出征西北�，F(xiàn)在他以中書平章的身份去見王保保。

王保保對這位老對手還算客氣，沒有殺他，但也不接受勸降。后來的故事我們都知道了，王保保派軍校護送李思齊返回，分別時，按照王保保的要求，軍�？硵嗬钏箭R的一條手臂。李思齊身受重傷，被送回南京之后不久就死去。

當年李思齊據(jù)守陜西時，朱元璋派降將前去勸降，結(jié)果使者被李思齊凌遲處死。現(xiàn)在李思齊自己也被朱元璋用做使者，僥幸沒被王保保處死，到底還是挨了一刀，所謂天道好還，就是這個道理。

洪武七年還有一件比較重要的事，九月，朱元璋讓元順帝的孫子、崇禮侯買的里八剌離開南京，回歸大漠，并帶去朱元璋給元嗣君愛猷識理達臘的一封書信。

洪武八年的八月，最讓明軍頭痛的王保保死了。自從元順帝逃出大都之后，王保保的軍隊就是對明軍最有威脅的一支力量，他曾經(jīng)重創(chuàng)明軍，也幾次在慘敗中逃脫。現(xiàn)在，這個打不死的王保保終于死在了哈剌那海的衙庭，妻子毛氏也自殺而死。

到了洪武十一年四月，元嗣君愛猷識理達臘離世，兒子脫古思帖木兒繼承了皇位，朱元璋派使者前去吊唁。四年前，朱元璋放回元嗣君的兒子、崇禮侯買的里八剌，是希望他能發(fā)揮一些作用，緩和殘元與明朝的關系。現(xiàn)在，元嗣君選了其他兒子做繼承人，朱元璋的希望落空了。

在這期間，明朝內(nèi)部也有了許多重要的變化，比如，衛(wèi)國公鄧愈在洪武十年死去，李文忠也失去朱元璋的寵信，慢慢與統(tǒng)帥的位置分離開，湯和則被進封為信國公。

洪武十一年二月，秦王、晉王分別就藩西安、太原，洪武十三年燕王朱棣就藩北平，朱元璋的兒子們長大成人，他也開始構建以親王為核心的北部邊防體系，逐步錘煉他們的統(tǒng)帥能力。

也是在洪武十三年，朱元璋開始清查胡惟庸一案，明朝統(tǒng)治集團內(nèi)部開始了一場巨大的動蕩，而且持續(xù)多年。

北方平靜多年，到了洪武十三年冬天，殘元的完者不花、乃兒不花率軍來犯永平，其中這位乃兒不花曾經(jīng)投降明軍，在大同附近做過官山衛(wèi)的指揮同知。駐守永平的指揮劉廣戰(zhàn)死。最終明軍擊敗元軍，生擒完者不花。

洪武十四年，朱元璋任命徐達為征虜大將軍，湯和、傅友德為副將軍，率軍討伐乃兒不花。北方形勢緩和將近十年之后，這是最大的一次行動。明軍取得了勝利，但是，北方的麻煩照舊，而且看不到根本的解決辦法。