1948年3月上旬，人民解放军西北野战军在陕西省宜川取得歼灭国民党军1个整编军部、2个整编师的胜利。国民党西安“绥靖”公署主任胡宗南为确保西安，急调驻守陇海铁路（今兰州―连云港）潼关至洛阳段的第5兵团主力西援，洛阳仅留青年军第206师驻守，洛阳以西、潼关以东200余千米铁路沿线只有非正规军守备。遵照中共中央军委指示，为配合西北野战军作战，并掩护晋冀鲁豫野战军主力休整，华东野战军参谋长陈士榘、政治部主任唐亮统一指挥华东野战军第3、第8纵队和晋冀鲁豫野战军第4、第9纵队及太岳军区第5军分区部队共28个团的兵力发起洛阳战役。洛阳是古都之一，地扼陕、晋、豫三省要冲，系中原战略要地。北依邙山，南傍洛河、伊河，地势险要，易守难攻，为历代兵家所必争。国民党军筑有永久性工事，以西北运动场构成核心阵地，以城垣结合四关构成主阵地，以外围支撑点构成外围阵地，形成完整的防御体系，自诩为“金城汤池”。但守军兵力薄弱，青年军第206师仅辖2个旅，虽然斗志比较顽强，但既缺乏实战经验，又处境孤立。3月5日，人民解放军参战部队自襄城、禹县、伊阳地区北上。7日，国民党军统帅部发现人民解放军有进攻洛阳征候，即令陆军总司令部郑州指挥部主任孙震统一指挥所属整编第47军主力自许昌、新郑地区北开郑州，2个旅车运汜水、黑石关一线；另以整编第18军自漯河、商水地区向许昌集结，待机增援洛阳。根据中共中央军委关于“进攻洛阳时，重点放在打援方面”的指示，陈士榘、唐亮原考虑攻城或打援两个作战方案，因判断整编第47军不敢单独行动，可能待整编第18军赶到后合力增援洛阳，如此则援军可能打不到或不好打，遂决心采取速战速决手段，在整编第18军赶到前攻克洛阳，歼灭青年军第206师。部署是：以第3纵队从东、北两面包围洛阳，由东关、北关攻城，重点置于东门；第4纵队从西、南两面包围洛阳，由西关、南关攻城，重点置于南门；第8、第9纵队担任阻援。