为解放饱受痛苦煎熬、处于饥寒交迫之中的大西北各族同胞，彭德怀决心率领一野大军，加快进军步伐，使西北同胞早日脱离苦海。
在我军实施陇东追击战役时，敌人内部的矛盾加剧了，突出表现在以西北军政长官公署副长官刘任为首的“中央派”的陇南集团与马步芳为首的陇东集团之间的斗争。
“中央派”鉴于胡宗南、马步芳和马鸿逵内部的矛盾越演越烈，密议断定：宁马对青马入主兰州，心怀不满。宁马虽分得甘肃省主席一职，但受青马束缚，不能为所欲为。他们认为兰州是青马势力范围，所以对兰州的得失，不甚关心，以为只要保得住宁夏老巢就够了。二马倾轧至此已表面化，不可能临难相顾。胡宗南龟缩汉中，自顾不暇，乘解放军西去正好扼守秦岭，苟安整补，冀图坐收渔人之利。况且胡宗南自关中失败后，对青马有“见死不救”的切齿之恨，按兵不动，乃意中事。陇南兵团虚有“中央军”之表，其实毫无战斗力；马继援的陇东兵团，战斗力虽较强，毕竟众寡悬殊，难以应付。
“中央派”虽然明于知己，却昧于知彼。他们预料解放军打下兰州后，必将转锋南下，进取四川，决不会深入草枯水冷的河西走廊，更不致于向戈壁千里的新疆挺进。仗打到兰州就会告一段落。
于是，他们幻想在河西走廊养精蓄锐，等待第三次世界大战爆发，反守为攻。
为了不让马继援窜据河西，“中央派”承袭了蒋介石借刀杀人、排除异己、消灭杂牌、保存自己的一贯做法，主张以陇东兵团独立担当兰州保卫任务，而陇南兵团作为总预备队。他们认为如按这个计划作战，战胜了，还可望合作；战败了，消灭的是马家军，“中央系统”的陇南兵团仍可保存无损。
此时，马步芳早已溜回青海，马继援成了马家军的首领，凡军政事宜，均须马继援点头。“中央派”的打算诱使这匹“小马”就范入套。为此，派出一位名叫彭铭鼎的人去做马继援的工作，此人平日善于逢迎这匹“小马”，深知“马性”。
彭铭鼎向马继援“献策”道：“共产党虽是一时得逞，即将逼近兰州，可是犯了孤军深入的兵家大忌。胡宗南部队蹑其后，宁夏兵团拊其背，我军固守兰州，相机反攻，共军会遭到四路围攻的毁灭性打击。为了便于指挥，必须划分兵团战斗地区，控制强大预备队。最好陇东兵团以一部守河口，主力在兰州占领阵地，严阵以待。陇南兵团系新编部队，不但战斗力不强，而且将领骄横难制，不要把这个部队放在兰州守城，以免与陇东兵团混杂，不便指挥。可以把该兵团作为总预备队，令在河北一条山一带占领阵地，掩护我的侧背。”
这些正中心怀的悦耳之言，使马继援闻之喜形开色。他与在西宁的马步芳商量后，一一同意照办，决心跟解放军在兰州作孤注一掷的死拼。
马步芳一向以凶残狡诈著称，并不是那么容易听话的，这次为什么会那么容易受“中央派”的愚弄呢？关键是彭铭鼎确实深知“马性”，掌握住了马步芳父子所需所想。
敌第九十一军军长黄祖壎与他的师长们在谈论马步芳时，比较准确地解释了马氏父子的这种所需所想。他说：“马步芳自接长官后狂妄已极，他自己认为‘西北是我的’，一切应以我为主，以我军守我土，心安理得。马步芳歧视我们‘中央军’，怕我们不为他卖死力，轻易放弃兰州，拆他的后台。要想保存兰州这块地盘，他认为只有他自己的部队可靠。其次，青海是他的老巢，军用物资大量向青海运，如果兰州保不住，他向青海一缩，又可以去当他的西宁王。再次，马继援这小子，骄傲得很，他一向看不起共军，常常吹嘘共军是他手下的败兵，正大作‘诱敌深入’围歼他们的好梦。又把我们看成‘豆腐队伍’，怕作战不利，影响他的士气。”
事后，马继援在兰州遭到惨败，意识到上了“中央派”的当了，恨得咬牙切齿，发誓要把长官公署（“中央派”）的那伙人宰光泄愤。
马继援死守兰州，与我军决战，既中国民党“中央派”的下怀，也符合我军心愿，这对我军迅速解决西北战事非常有利。
正当我军越过平凉，奋勇向西追击时，彭德怀得知马步芳决心“死守兰州”的计划。
有人担心地向彭总问道：“兰州有黄河障碍，敌人如果真要死守，该怎么办？”
也有人建议：“是不是掉回头去，先消灭胡宗南的残部。”
彭总胸有成竹地回答说：“马步芳要死守兰州，这太好啦！我们不怕他守，而是怕他跑掉。如果他真的不跑，就到了我们把他消灭在兰州的时候了。至于胡宗南嘛，暂时还是把他放一放。因为胡宗南背靠四川，过早地把他压到四川，对二野入川不利。”
彭总分析了马步芳的狂妄意图之后，坚定而又充满信心地说：“这个马步芳真是夜郎自大。他想在兰州消灭我们，好吧，咱们走着瞧，看谁把谁消灭在兰州！按照马步芳的计划，我们就来它一个将计就计，因势利导。”
于是，彭德怀形成了一个在兰州歼灭马步芳主力的作战方案。
8月4日，彭德怀向第一、二、十八、十九兵团，发布了进军兰州歼击青马的命令。彭德怀心里明白，敌既然要死守兰州，那么，在兰州同青马决战，将是一场艰巨的攻坚战。
8月6日，中央军委指示第一野战军首长：据一般了解，青马残暴，在其主力未被歼前，对我敌意甚深，故对深入青马老巢寻其主力作战，必须谨慎行事，大意不得。
第一野战军首长遵照军委指示，决心以一部兵力钳制马鸿逵、胡宗南部，集中优势兵力歼灭马步芳部主力于兰州，尔后再聚歼马鸿逵部。
具体部署是：以第十八兵团的第六十、第六十一军以及第一兵团的第七军留驻宝鸡、天水地区，继续钳制胡宗南部，保障野战军主力左侧与后方的安全；以第十九兵团第六十四军进至固原、海原地区，钳制马鸿逵部，保障野战军主力右侧安全；以第一兵团部率第一、第二军附第十八兵团的第六十二军为左路，由秦安、武山经陇西、渭源、临洮、临夏，尔后北渡黄河攻取西宁，截断兰州之敌退路，并随时准备参加兰州作战；以第二兵团部率第三、第四、第六军为中路，经通渭、马营镇、内官镇和洮沙县向兰州城南、城西攻击，如敌先退西宁，即尾敌追击，协同第一兵团歼灭之；以第十九兵团部率第六十三、第六十五军为右路，沿西兰公路及其以北向兰州城东攻击，协同第二兵团歼灭兰州之敌。
8月19至20日，第二兵团和十九兵团顺利进抵兰州城郊，从东、西、南三面包围了兰州。
兰州是甘肃、宁夏、青海、新疆四省的交通枢纽，是国民党西北军政长官公署所在地，国民党在西北的政治、军事中心。兰州三面环山，北有天险黄河、白塔山可依托，南有南山作屏障。国民党军在抗战期间就修筑了坚固的工事，青马又不断将其构筑加固。主阵地修有钢筋水泥碉堡，形成碉堡群，通向城里的环山公路与各主要阵地相连接。阵地外斜面有环形人工削壁一至二道，高六至十米，削壁腰部有暗藏的侧射机枪火力点，削壁外有一两层三至六米深的外壕，各壕间又有暗堡和野战工事。阵地前埋设大量地雷及铁丝网。马步芳部凭借坚固工事，既便于使用火力，又便于组织反扑。
兰州战役打响前，马步芳在对部属的命令中宣称：“本署以诱敌于有利地形与之决战，凭天然屏障筑工严密部署，如敌来犯，决举全力一鼓而歼灭之。”
敌兰州总指挥马继援则扬言兰州是“攻不破的铁城”。
青海军阀马步芳部是以家族世袭统治和宗教控制为特点的封建军事集团。是一支凶悍的、有战斗力的部队。士兵长期受反共教育，异常残暴野蛮。作战时往往前有敢死队，后有督战队。土地革命战争时期，红军西路军吃过它的亏，在西府战役中它又占了点便宜，因而这支部队气焰仍很嚣张。
8月中旬，逃到广东的国民党政府为阻止第一野战军主力南越秦岭、巴山，向四川进军，极力策动“二马”与野战军决战，把野战军拖在西北。他们为此召集“二马”和胡宗南到广州举行“西北联防会议”，策划“兰州决战计划”，企图以青马据守兰州，吸引和消耗第一野战军主力，尔后以宁马和胡宗南部进行侧击，合歼我野战军。
青马把兰州决战看成是自己生死存亡的关键，周密地研究对策，布置兵力，拟定了详尽的作战方案。依据敌人真实的作战纪要记载，敌西北军政长官公署守备兰州的部署如下：
（1）以陇东兵团主力（第八十二军、第一二九军附榴弹炮一营）在狗娃山、皋兰山、东岗坡一带既设工事占领阵地，部署强有力的机动部队于四墩坪迄七里河间地区。该兵团的骑兵部队，配置在兰州、河口间黄河北岸，担任沿河守备。
（2）陇南兵团的第九十一军、第一二○军，配置在兰州、靖远间黄河北岸，以巩固兰州左翼。
（3）韩起功骑兵军（系兰州战役前不久，由地方团队编凑而成）守备洮河，巩固兰州右翼，并看守青海大门。
以上部署的作战意图是：
（1）部署有力骑兵部队于榆中、甘草店一带，迟滞敌军前进，以赢得防御准备时间。
（2）敌军主力直扑兰州时，兰州守军藉工事以炽盛火力，予以杀伤，当敌我兵力接近平衡时，断然转移攻势，此时北岸骑乓部队支援骑兵军，努力击破当面之敌，向内官营、定西挺进，兰州左翼部队向巉口附近挺进，包围敌人于榆中地区歼灭之。
（3）倘敌军主力向洮河方面进攻，兰州及其东北地区守军应断然出击，向敌军主力侧背攻击之。
（4）万一敌军主攻指向靖远方面，该方面宁军应极力阻其渡河，同时兰州及同心城部队应构成钳形攻势，乘敌军半渡歼灭之。
（5）宁夏及兰州两方面部队，应积极准备，互相策应作战。
在青马各部周密准备的同时，第一野战军部分官兵却由于陇东追击战发展顺利，产生了轻敌麻痹思想，另外，他们也认为敌有可能放弃兰州，担心失去歼灭马家军的有利战机。于是，一野部队抵兰州外围的第二天，在准备不足的情况下，就向古城岭、营盘岭、狗娃山等几个兰州外围阵地发起试攻。敌军充分发挥了兵力火力，第一野战军攻城部队在外围攻击受挫，并有不小的伤亡。
鉴于这种情况，彭德怀果断下令停止攻击，要求各兵团总结经验教训，仔细侦察敌情，查看地形，充分做好战前准备。根据彭德怀的命令，各攻城部队用三天时间普遍进行阵地总结，深入政治动员，克服轻敌思想；发扬军事民主，研究进攻战术；认真侦察地形，反复夜摸道路，并挖壕沟接近敌人阵地；大力组织骡马和勤杂人员，动员一切人力、物力，运输物资器材。
第一野战军虽然试攻受挫，但摸清了敌人的部署、战术特点和地形情况。8月21日，第一野战军司令部给各兵团发出指示，对战斗中火力组织、战斗队形和战术应用等提出了明确要求，还特别强调：
青马匪军为今日敌军中最有战斗力的部队，在全国也是有数的顽敌。我们对他须有足够的估计，并作充分的精神准备，力戒轻敌、骄傲急性。进攻时，须仔细侦察，精密计划，充分准备，作正规的进攻。任何疏忽大意与侥幸心理，都是错误的。
彭德怀还指示王震：
青马匪军现决心固守兰州，工事又相当坚固，夹河而阵，地形亦有利于守，在左兵团进占临夏后，可能动摇其固守决心，但亦可能促进其不顾一切决心死守，甚至放弃西宁撤守大通河东岸及享堂新城湟水北岸保障凉、甘、肃州退路。在我攻兰州六七天不得手时，宁马主力可能车运增援兰州（青宁两马汽车据云二千辆以上），似此我将集中三个兵团于兰州会战。你们占领临夏、永靖两城后，须休息两天补充粮食，弄清情况，再定行动。
根据这一部署，在第二、十九兵团进行强攻兰州准备的同时，担任截击兰州战役中可能西逃之敌的左路军第一兵团正急速行军。第一兵团的迅速挺进，使兰州守敌右侧安全和马步芳老巢西宁受到严重威胁，马步芳不得不抽调骑兵第八旅和骑兵第十四旅回西宁担任守备任务。
第一野战军三路大军包围兰州并且击破敌一翼后，胡宗南并未出兵解兰州之急，援兰州的宁马被我第六十四军钳制在海原不得前进，实际上形成了青马孤军困守兰州的局面。
8月23日，中央军委指示第一野战军首长：“马步芳既决心守兰州，有利于我军歼灭该敌。为歼灭该敌起见，似须集中三个兵团全力于攻兰战役。王震兵团从上游渡河后，似宜迂回于兰州后方，即切断兰州通青海及新疆的路并参加攻击，而主要是切断通新疆的路，务不使马步芳退至新疆，为害无穷。攻击前似须有一星期或更多时间使部队恢复疲劳，详细侦察敌情、地形和鼓动士气，作充分的战斗准备，并须准备一次打不开而用二次、三次攻击去歼灭马敌和攻占兰州。”
彭德怀根据中央军委的指示精神，精心准备再次攻击兰州。
23日，他急匆匆地来到猎嘴岭第十九兵团指挥部。
兵团司令员杨得志、政委李志民向他报告：“十九兵团部队的历史上还没有遇到过这样的情况，攻敌几个阵地，一天多没拿下一个。军、师、团的干部都很憋气，觉得非出这口气不可。”
彭德怀说：“部队试攻受阻，主要原因是轻敌，次要原因是敌工事坚固，敌人顽强。这次试攻是我决定的，时间仓促，部队准备不够。不过通过这次试攻也达到了了解敌人的目的。你们要告诉部队沉住气，总结经验，仔细研究敌人，扎扎实实地做好准备工作，待命向敌人发动总攻。”
当时，第一野战军有的干部仍认为，当前形势已是“秋风扫落叶”，马步芳未必会固守兰州。彭德怀再三提醒说：马步芳、马继援都是反动透顶的家伙，他们就象输红了眼的赌棍，把最后一点赌注全押在兰州。我们部队大部分还没同他交过手，不是有个“困兽犹斗”的成语吗？对敌人切勿疏忽大意。马军惯打反扑，在占领敌阵地后，改造工事未完成时，最须注意。
他还意味深长地说：“兰州这一仗打好了，西北可以早一点解放。打不好，让敌人跑掉，我们就是对人民犯罪。”
我军经严密侦察，判断敌人主力集中在南山，而东西两翼薄弱，北面的黄河铁桥是敌人唯一退路。这样，占领南山就成为攻打兰州的重点，而能否夺取黄河铁桥是能不能全歼敌人的关键。
围绕这一重点和关键，彭德怀适当调整了作战部署。
8月24日21时，彭德怀向中央军委报告：“二兵团、十九兵团攻城准备工作已妥。疲劳尚未恢复，粮食不足，油、菜更难解决。青马军不断反袭，故很难得到休息。以现在的准备工作看，攻占兰州有六七成把握，故决定在25日晨开始攻击。”
毛泽东在26日复电：如25日攻城得手，则局势起了变化。如不得手，则作为侦察性质之作战，按来电确定先打援，后攻城。
第一野战军作了充分准备后，于25日拂晓发起总攻。
敌军坚固工事一个个被突破。经过异常激烈的战斗，沈家岭主阵地上的上、下狗娃山，首先被第四军攻占。下午，第六军攻克了南山最高峰营盘岭的主阵地三营子；六十三军攻占敌另一主阵地豆家山。六十五军于黄昏占领古城岭、马架山。至此，兰州的“锁钥”已全部掌握在我野战军手中。
在战斗中，敌军指挥官用机枪和大刀督战，连续向野战军发起反冲击�