淮海戰役中，隨著黃百韜兵團的覆滅，第一階段的作戰任務順利完成。等待著華野和中野的，是規模更大的第二階段作戰任務——殲滅黃維兵團。

按照中央軍委的部署，殲滅黃維兵團由中野唱主角，華野在休整的同時，協助兄弟部隊做些輔助性的作戰，唱唱配角。

剛剛參加完第一階段作戰任務的華野參謀長陳士榘得知命令松了一口氣，感慨終于可以休息一段時間了。

但南邊的局勢并不容樂觀，隨著第二階段任務的展開，中野背負了巨大的壓力，他們不僅要全力對付黃維的4個軍10個師1個快速縱隊12萬人，還要分心應對蔣介石派來增援黃維的李延年兵團、劉汝明兵團。好在華野的兄弟部隊已經在淮海南岸提前布置了阻擊陣地，頑強地頂住了這兩個兵團的進攻。

但即使如此，經歷過挺進大別山的中野還是壓力很大，黃維兵團畢竟是國軍中戰斗力一流的部隊，中野為了擊潰了他們的突圍行動付出了不小的代價。

12月6日，中野向被壓縮在雙堆集地區的黃維兵團發起了總攻，試圖將他們一舉消滅。雙堆集內有兩大制高點，易守難攻，外部地形平坦，視野開闊。黃維下令用坦克組成外圍防線，步兵藏在坦克后面用各種武器抵擋我軍的進攻，中野的進攻并不順利。

為了減少部隊的傷亡，中野首長下令放慢進攻步伐，采用土工作業的方式向敵人的陣地靠攏，同時劉伯承和陳毅兩位司令員向黃維發出了誠懇的勸降信，希望他們趁早放下武器。

但黃維不為所動，他認為中野的土工作業雖然能減少傷亡，但會減弱中野的攻擊，畢竟一條壕溝能承載的兵力有限，一條條壕溝實際就是分兵作戰，他手握一個裝備精良的大兵團，面對這樣的小股兵力進攻是抵擋的住的。

在中野和黃維僵持不下的時候，徐州方向的杜聿明3個兵團也做好了隨時逃脫華野包圍圈的準備。整個淮海戰役進入了最緊張、最焦灼、最白熱化的時候。

粟裕大將晚年坦言，淮海戰役第二階段是他一生指揮的最緊張的戰役，正是在這個階段他7天7夜沒睡覺，誘發了美尼爾氏綜合癥。

這種局面令粟裕頭疼不已，鑒于南北兩個戰場都陷入僵持狀態，他和譚震林、陳士榘、張震等人商量后認為，應該先兩大野戰軍的主力解決其中的一坨，回過頭來再解決另一坨，這樣才能占據主動，打開僵局。

大家一致認為，最好是先解決黃維，再回頭收拾杜聿明。于是粟裕立刻又給總前委打了電話，商量了此事，總前委表示同意。

具體的部署位，華野抽調三縱、蘇十一縱和魯中南縱隊（這三個縱隊并不是完整建制，相當于兩個縱隊的戰斗力），外加一部分炮兵，在陳士榘的率領在星夜兼程南下，支援中野部隊殲滅黃維。

經過一夜的急行軍，陳士榘率領部在次日趕到了中野司令部。中野首長見到這支生力軍趕來非常高興，問陳士榘有什么想法。

陳士榘回答：要想解決黃維，首先必須集中火力拿下雙堆集的一個堆，使其失去依托，這樣我們的火力就能全部展開了。我建議先打尖谷堆，再打平谷堆。

中野首長完全贊同陳士榘的意見，陳士榘于是自告奮勇，希望由自己來指揮完成攻打尖谷堆的任務，并讓前線部隊騰出一個供他指揮和使用部隊的地方。

據陳士榘在回憶錄《天翻地覆三年間》中回憶，小平同志聽后說：你先等一下，我需要和各個縱隊聯系一下。

大概等了三四十分鐘，小平同志告訴陳士榘：各部隊都不愿意讓出位置。

陳士榘聽后說道：“我相信包圍黃維兵團的中野部隊是一定能完成圍殲任務的，不過只是時間問題。我建議我去加強指揮阻擊李（延年）、劉（汝明）兩兵團的援軍，并相機殲滅其一部，以爭取時間，由中野部隊解決黃維兵團。打援部隊能多堅持一些時間，中野解決黃維兵團就能從容一些了。”

小平同志無奈地攤了攤手說：“也好，我這里的部隊都和敵人殺紅了眼，你諒解一下吧。”

陳士榘于是開著吉普車離開了中野司令部，往打援部隊的方向去了。

陳士榘大概走了不到20分鐘，就看到前面路口有一個人向陳士榘的車隊招手，示意他們停下來。陳士榘停車后才看到，攔車的人正是中野6縱政委杜義德將軍。

杜義德對車內的陳士榘喊道：“是陳士榘參謀長嗎？鄧政委叫你接電話。”

原來，陳士榘走后沒過多久，中野首長就改變了主意，要他留在中野指揮圍殲黃維的作戰，經過他們的協調，6縱（司令員王近山）已經同意把攻擊位置給他們讓出來了。

小平同志在電話里告訴陳士榘：“攻擊位置給你讓出來了，6縱也歸你指揮，我跟王近山、杜義德都講好了，他們都聽你的。”

陳士榘回憶說：“我又提出，靠近6縱左翼的華野第七縱隊成鈞、趙啟民部和豫皖蘇獨立旅賀健部，及原華野加強二野（中野）的中野炮兵第三團及第十三縱隊也統歸我指揮。”

小平同志經過一番考慮后，同意了陳士榘的要求。

陳士榘獲得指揮權后，立刻就把這幾個縱隊的首長召集到了一起，要他們把原來分散的兵力全部集中到尖谷堆附近，并對炮火攻擊、步炮協同進行了調整。

在部署完成后，12月14日傍晚，陳士榘下達了總攻的命令，在強大炮火和夜色的掩護下，我軍強攻尖谷堆，經過兩個多小時的戰斗，最終攻克尖谷堆。

尖谷堆是雙堆集的制高點，占領這里便可以居高臨下俯瞰敵人的另一個據點——平谷堆，黃維見狀慌忙下令向尖谷堆反撲，結果幾次進攻都被我軍擊退。

天亮以后，我軍發現敵人已經軍心大亂，出現了潰逃的現象，陳士榘于是下令以炮火封鎖其退路，并讓步兵猛撲下去，到這個時候，第二階段作戰的結局，乃至整個淮海戰役的結局已經沒有了懸念。

隨著黃維兵團被殲滅，淮海戰役第二階段的任務勝利結束。中野首長本打算好好犒勞一下陳士榘，但這時華野司令部來了電話，要陳士榘立刻返回華野，參加淮海戰役第三階段——圍殲杜聿明集團的作戰。

淮海戰役前后三個階段，共歷時65天，殲滅了國軍精銳部隊55.5萬人，基本肅清了長江以北的國民黨勢力，此戰的結束也意味著蔣介石的統治已經到頭。陳士榘上將作為同時參加了淮海戰役三個階段作戰的指揮員，他在此戰中的巨大貢獻是值得我們銘記的。