平江被攻破后，徐达下达军令：“掠民财者死，拆民居者死，离营20里者死。”他命部队各自驻守，安定民心。随后，徐达率诸将回到应天复命，朱元璋亲自到戟门迎接，大赏将士，徐达进封为信国公。
攻克大都威震边塞
消灭张士诚后，朱元璋决定北伐灭元。1367年10月，朱元璋任命徐达为征虏大将军，常遇春为副将军，率领25万大军，向北进攻中原。
徐达统率北伐大军浩浩荡荡从淮安出发，先进入山东。北伐军所过之处，张布“驱逐胡虏，恢复中华”的讨元檄文，许多州县纷纷投降，北伐军进展顺利。11月，徐达指挥大军攻克沂州(今山东临沂)，然后按照朱元璋的指示，命部将韩政扼守黄河天险，张兴祖攻东平、济宁，自己率大军攻克益都(今山东青州)。12月，大军抵达济南，守城的元将开城投降。徐达复还益都，进攻登州(今山东蓬莱)、莱州(今山东掖县)。北伐军出征三个月，山东基本被平定。
1368年正月初四，朱元璋在应天登基称帝，改国号为明，年号洪武。新朝建立，自然要封赏功臣，设置百官。朱元璋任命的左右丞相，一个是李善长，一个就是徐达。朱元璋立长子朱标为太子，李善长兼任太子少师，徐达兼任太子少傅。
这年2月，北伐军沿黄河西进直入河南境内，接连攻克了永城、归德、许州(今许昌)，直逼陈桥。元汴梁(今开封)守将出城投降，徐达统率大军直奔河南(今洛阳)。四月，经过激战，元军弃城而逃，河南被攻克。徐达继续西进，攻克陕州(今河南陕县)，直逼潼关。元军望风而逃，徐达进入潼关，向西直至华州(今陕西华县)。至此，徐达的大军已先后占领了山东、河南的大部分地区，又占据了潼关，对元朝的大都形成了月牙形的包围态势。五月，朱元璋驾幸汴梁，慰劳将士，同时商讨下一步的进军方案。徐达建议，应立即发兵，攻取大都，朱元璋采纳了徐达的建议，命徐达统军进攻大都。
7月，朱元璋返回应天。徐达、常遇春率诸将会于河阴(今河南荥阳)，然后分兵进入河北。闰7月，徐达于临清召集诸将，部署具体进军方略。随后，常遇春首先攻占德州，接连又攻占了长芦(今河北沧州)、天津。镇守天津的元丞相从海口望风而逃，大都震动，人心大乱。
明军进至河西务(今河北武清东北)，大败元军，乘胜推进到通州(今北京通县)，又乘大雾伏击元军，元军守将战败身死。通州失守的消息传到大都，元顺帝惊慌失措，于闰7月27日深夜带着后妃、太子从建德门狼狈逃跑。8月2日，徐达率军进至大都齐化门，士兵填平城下的壕沟，攻进城中。徐达登上齐化门城楼，兵士将元顺帝留下守城的淮王、左右丞相等人押到。这些人宁死不降，被徐达下令处死。其余愿意投降的，徐达准许投降，无一人被滥杀。徐达下令查封城中的府库，派1000兵士守卫皇宫。同时严令所有将士，禁止扰民。由于徐达的军队纪律严明，使大都很快安定下来，街市上的店铺买卖也照常营业。
朱元璋接到攻克大都的捷报后，宣布大赦天下，并下令改大都为北平府，命徐达、常遇春等人率大军攻取山西、陕西等地，扫清元朝的残余势力。
1368年9月，徐达指挥大军进入山西。12月攻占太原、大同，山西全部成为明军的势力范围。洪武三年正月，徐达再次受命为征北大将军，出兵西北。4月，经潼关直指定西，大败元军。11月，徐达凯旋回到京城，朱元璋亲自到龙江迎接。然后大行封赏，改封徐达为魏国公。洪武四年春天，朱元璋命徐达镇守北平。第二年，为了彻底清除北方边患，徐达再次受命出征，给元朝残余势力以沉重打击。洪武六年，徐达留守北平。11月，元军进犯大同，被徐达击退。洪武十四年，徐达又率军出塞，一直进至黄河最北端，大破元军，凯旋而归。
徐达从洪武四年镇守北平，此后10多年间，数次率兵出塞，使元朝残余势力不敢轻易南下，有效地保卫了大明的北方边界，朱元璋由衷地称誉徐达是“万里长城”。
谦虚谨慎光明磊落
在明王朝的建立过程中，徐达开辟江汉流域，扫清淮楚之地，攻取浙西，席卷中原，声势威名直达塞外，先后降服王公、俘获将领不计其数，但他从不居功自傲，在皇帝面前尤其恭敬谨慎。朱元璋经常召见徐达，设宴欢饮，每每以“布衣兄弟”相称，而徐达总是谦虚谨慎，小心应对，不越君臣之尊卑秩序。
按照朝廷的礼仪制度，徐达官至丞相，外出时备有相当规模的威赫仪卫。但他时常乘着普通的车马出门，回到家中也过着俭朴的生活，从不奢侈浪费，或者歌舞宴请以夸耀自己显达高贵。朱元璋曾对徐达说：“大将军征战几十年，劳苦功高，从未安宁地休息过。我把过去住过的旧宅院赐给你，你可以安享天伦之乐。”朱元璋所说的旧宅院，就是他称吴王时的王府。徐达坚决推辞，不肯接受。有一天，朱元璋带徐达来到旧吴王府，设计将徐达灌醉，然后把他抬到床上，蒙上被子，想用这种办法强迫他接受赏赐。徐达酒醒之后，惊慌失措，急忙下床伏地向朱元璋请罪。朱元璋见徐达如此谦恭，心中非常高兴，便不再硬逼他接受旧王府。
徐达除了谦虚谨慎，战功卓著外，尤为重要的一点是忠诚正直，爱憎分明，不结党营私。朱元璋曾在朝堂上当着群臣的面称赞徐达说：“受命率军出征，取得胜利凯旋归来，一贯不骄不傲，女色无所爱，财宝无所取，公正无私，像日月行天一样光明磊落，大将军就是这样的人啊!”
