1948年3月3日，西北野戰軍在彭德懷指揮下，于宜川瓦子街地區全殲國民黨整編第29軍。軍長劉戡兵敗身亡，該軍兩萬九千人被殲滅。消息傳到西安，胡宗南擔心關中防線崩潰，急令駐守隴海鐵路西段的裴昌會兵團撤回關中布防。

這一調動使洛陽孤立無援，城內僅剩青年軍第206師駐守，兵力約一萬九千人。該師裝備雖好，但士兵多為缺乏實戰經驗的學生兵，師長邱行湘雖加緊修筑工事，仍難以彌補防御缺口。

陳賡此時正率領晉冀魯豫野戰軍第4縱隊在豫西活動。他判斷戰機已現：若趁裴昌會兵團西撤時攻占洛陽，既能切斷隴海鐵路，又可策應西北野戰軍南下，同時掩護剛出大別山的劉鄧主力部隊休整。但時間緊迫，必須在五天內破城，否則鄭州孫元良兵團與駐馬店胡璉兵團必將增援。

陳賡在地圖前分析洛陽形勢，此時我方手中可集結二十八個團兵力：包括自轄第4、第9縱隊，華野陳士榘兵團的第3、第8縱隊，以及太岳軍區地方部隊。而洛陽守軍僅有六個團，其中還有一個團缺編，兵力對比為五比一。參謀建議速戰，陳賡卻遲遲沒有下達命令，三個月前的確山失利讓他現在格外謹慎。

1947年12月，陳謝兵團與華野兄弟部隊合圍川軍整編第20師于確山。此戰名義上統一指揮的是陳賡，但因不熟悉華野部隊情況，加上通訊聯絡不暢，使得攻城受阻；而華野第3縱隊沒有能及時投入主力第8師，錯失戰機。

在胡璉援軍逼近后，我軍被迫撤退。戰后華野參謀長陳士榘總結：“不同建制的部隊協同作戰，指揮層級存在顧慮！”這一教訓讓陳賡意識到，此次聯合作戰的指揮權必須明確。

3月5日凌晨，陳賡向中央軍委發電報：“建議由陳士榘、唐亮同志統一指揮洛陽戰役。”這一決定基于兩點：其一，陳士榘擔任華野參謀長，唐亮為政治部主任，倆人職務均高于陳賡的縱隊司令員身份；其二，確山之戰證明跨野戰軍協同需打破建制隔閡。

軍委兩小時后復電批準。陳士榘當時正率部急行軍，接到命令后立即調整部署：華野第3縱隊主攻北門與東門，陳賡第4縱隊負責西門，第9縱隊阻擊鄭州方向援敵。指揮權的快速明確，為戰役掃清了關鍵障礙。

隨后陳唐兵團迅速掃清洛陽外圍。五天內，偃師、新安、澠池等據點接連被攻克，周邊四百里區域再無成建制敵軍。3月10日，攻城部隊完成合圍，洛陽徹底成為孤城。

守將邱行湘（黃埔五期，陳誠嫡系）加固了城防：西門外“周公廟”“西工”據點暗堡密布，鳳翅山、內七郎山炮兵陣地控制全城。他宣稱“洛陽可守百日”，同時急電胡宗南求援。陳士榘判定戰役關鍵在于速度，若十天內不能破城，孫元良兵團從鄭州、胡璉兵團從駐馬店北上，我軍將腹背受敵。

3月11日暴雨傾盆，陳賡親臨西門督戰。第10旅趁夜色猛攻西關，戰士冒雨架梯攀墻。拂曉時大部陣地已被控制，但“周公廟”“西工”兩據點仍未被攻下。參謀長周希漢報告：“這兩處火力點正對西門攻城路線，側射威脅極大！”

陳賡電話聯系陳士榘：“給我一天時間拔掉釘子，否則強攻西門會被夾擊！”陳士榘回絕：“胡璉先頭部隊已到駐馬店，總攻必須按計劃！”陳賡轉身命令團長吳效閔：“明日總攻，不惜代價配合華野打開防線！”

陳賡趕到西門前沿陣地。第29團官兵被西北角碉堡火力壓制，團長吳效閔指著城墻缺口：“白天強攻傷亡太大！”話音未落，炮彈在附近爆炸，氣浪掀翻指揮棚。衛兵扶起陳賡時看到他左手受傷，他推開紗布：“華野兄弟在東門沖鋒，我們不能落后！”士兵們扛起云梯沖鋒，一營長跳入護城河以肩架橋，后續部隊踩著人梯攀墻。三小時內，29團傷亡四百余人，最終將紅旗插上西門甕城。

邱行湘殘部隨后退守城西北發電廠核心工事。陳士榘調集華野3縱40門重炮抵近直射，三小時傾瀉兩千發炮彈。華野23團突擊隊長張明率部從炸開的城墻豁口突入，與敵逐屋爭奪。在銀行地下室，戰士從煤堆里揪出化裝成伙夫的邱行湘，他顫抖著交出手槍。

戰后，野戰醫院收容六千余傷員。犧牲名單中包括第29團政委王爭等1279人。此役殲敵兩萬，俘獲邱行湘，繳獲榴彈炮24門、機槍470挺。更重要的是打通隴海鐵路中段，使西北與中原解放區連成一片。七天后，彭德懷部西進寶雞，劉鄧大軍完成休整，中原戰局徹底扭轉。

清理戰場時，中野28團看守的十二門榴彈炮歸屬引發兩支兄弟部隊的爭執。有華野戰士表示：“城墻是我們炸開的！”雙方戰士爭搶中，陳賡趕到現場制止：“沒有華野炮火，中野在西門要多犧牲兩千人！”他下令移交所有火炮。次日華野送回六門，附信：“兄弟同心，其利斷金。”運輸隊長回話：“陳參謀長說中野部隊千里躍進大別山時，損失了不少火炮，現在比華野更需要重武器。”

總結會上，陳士榘強調炮火作用。三日后陳毅發來電報：“攻城炮擊兩小時，耗彈過多。若依賴重炮，攻堅意志必衰！”電報傳至連隊，老兵議論：“陳老總提醒咱們別忘夜襲本領。”陳賡巡視部隊時見士兵練習捆炸藥包，對參謀說：“通知各旅，增加土工作業訓練。”