平定山西后，朱元璋下一步的目标是夺取关陇地区。

明朝洪武二年（公元1369年）正月十二，徐达派薛显、韩政率兵攻取桃花、蚁尖等山寨。

正月二十七，薛显攻克潞州桃花寨。彰德林虑州西北二十余里

可是蚁尖山寨地势险要，易守难攻，明军多日进攻，均没有攻克。蚁尖山寨位于林虑州西北二十余里，被元右丞吴庸、王居义、小锁儿等人占据。三面都是陡立的山峰，地形极端险峻，很难攀登上去。若有军队来攻，山上派少量兵力扼守要害，推巨石滚下便能阻挡进攻。

徐达令韩政围住山寨，同时派人前去招抚，以分化、瓦解山寨的守军，蚁尖山寨果然发生内讧，吴庸诱杀王居义、小锁儿后率部投降。

正月三十，韩政占领蚁尖山寨，得降卒一万多人。

同年正月二十五，朱元璋派使者到太原，明确各将领的位次，右副将军冯胜居常遇春之下，偏将军汤和居冯胜之下，偏将军杨璟位居汤和之下，诸将均受主帅徐达指挥调遣。

同时，朱元璋命徐达派千户刘通海告谕康茂才、郭子兴：“狭州、潼关，三秦门户”（《明太祖实录》），扼守两地， 李思齐、张思道犹如被困在洞穴中的老鼠，可用少量兵力进行牵制，如果他们发兵来犯，切勿与其交锋，坚守即可，“厉兵积粮，严为守备”（《明太祖实录》），等大军到达后，合力攻取。

与此同时，常遇春率军到达大同，元守将竹贞弃城逃走。

二月初七，常遇春从大同带兵返回。

二月十三，徐达、常遇春、冯胜率军从太原出发，攻取陕西。二月十九，大军从霍州到达平阳，薛显从桃花寨带兵前来会合。

二月二十六，徐达率军行至河中，派张良建造浮桥，令常遇春、冯胜先行渡河，进军陕西。

三月初一，徐达率军从蒲州渡河，次日占领蒲城等地，鄜城元守将前来投降，随后徐达占领栎阳，然后直趋鹿台，以攻取奉元路。

奉元路是元朝陕西行台所在地，元朝陕西等处行中书省平章政事李思齐迎战明军的部署是这样的：李思齐坐镇凤翔，派部将许国英、穆薛飞等人驻守关中，令张思道、孔兴脱列伯等人驻守鹿台，以守御奉元。

这番谋划看起来不错，可是最大的变数在于张思道。在元朝时，鹿台是拱卫奉元路的军事要地。

听闻明军大举入关的消息，张思道急忙从野鱼口逃走。三天后，明军到达鹿台，没费多大力气，便拿下了鹿台。

在派徐达、常遇春北伐元朝前，朱元璋认为，“李思齐、张思道彼此猜忌、势不两立”（《明太祖实录》），此时可以看出，朱元璋的判断有多准。

徐达派都督佥事郭子兴率轻骑直捣奉元，自己率军继后，渡过泾水、渭水，到达三陵坡，当地父老千余人出城迎降，徐达下令按兵不动，令左丞周凯进城抚谕，次日带兵入城，改奉元路为西安府。

当时奉元正在闹饥荒，朱元璋下令每户赐给一石米，随后又命人去孟津仓取粮，每户再给两石米，百姓收到粮食后十分高兴。

徐达令常遇春、冯胜率军攻打凤翔，李思齐率领十万余部众慌忙逃往临洮，常遇春引兵入城。

徐达令耿炳文驻守西安，自己率军去凤翔部署下一步的行动。

四月初二，徐达在凤翔召集诸将商议下一步的进攻方向。很多将领都认为，张思道的军事才能不如李思齐，庆阳更容易攻克，主张先从豳州攻取庆阳，然后再从陇西攻打临洮。

对于上述观点，徐达并不认同，他认为，张思道城池险固，将士悍勇，很难轻松攻下，而临洮“西通蕃夷，北界河湟”（《明太祖实录》），此时发兵进逼，李思齐若不想逃到外邦，则只能束手就擒；而且临洮一带土地肥沃，盛产粮食，足以供给军需。

于是，徐达令汤和守住营垒、辎重，令金兴旺等人驻守凤翔，而后带兵向陇州进发。

正在此时，朱元璋派人到军中令常遇春回师北平，因为先前元将也速带兵进犯通州，此时又有人来报，他们将再次来犯，所以派人快马加鞭，告诉常遇春，令他率部返回北平。

常遇春的离开，使陕西的明军实力受到削弱，不过徐达仍然决定进军临洮。

四月初三，徐达从陇州抵达固关山，元守将投降。

四月初四，朱元璋下令设置陕西、山西两个行省，任命汪广洋为陕西参政、杨宪为山西参政。

四月初六，徐达率军行至秦州马跑泉，元守将投降。

四月十一，徐达抵达巩昌，元守将投降，徐达令冯胜带兵攻打临洮，自己留在巩昌。

四月十三，冯胜率军到达临洮，李思齐投降，冯胜派人把他送去徐达军营。

攻打陕西前，朱元璋曾写信劝降李思齐，李思齐心生动摇，萌生投降之意。

李思齐有个养子，名为赵琦，曾劝说李思齐“西入土蕃”（《明太祖实录》），李思齐听信他的话，所以逃到了临洮。可是赵琦“私窃宝货、妇女”（《明太祖实录》）跑到山谷里藏起来，李思齐的处境更加窘迫，于是率部投降。

徐达派人把李思齐送去京师。

四月二十，朱元璋收到捷报后，下令设立临洮卫，封李思奇为江西行省左丞，领取俸禄而不就职。