1946年7月中旬，國民黨軍隊兵分三路（左、中、右三路）對我兩淮根據地發起了進攻，中央命令陳毅準備率領山東主力部隊南下，對徐州到蚌埠之間的津浦路（天津到南京浦口）發起進攻。

7月19日，陳毅率領韋國清的2縱，譚希林的山東7師和何以祥的山東8師連夜南下，不久之后，他們在華中部隊的配合下，取得了朝陽集戰斗的勝利，以傷亡800人的代價殲滅了敵人的5000多人。

南下首戰告捷，山東野戰軍士氣大振。

中路的敵人遭到打擊后，左路的薛岳下令部隊互相靠攏，謹慎前進。

陳毅和參謀長宋時輪認為，如果按照原計劃攻敵左路，只能打擊潰仗，打不了殲滅戰。

同時，他們又注意到敵人的右路軍（桂軍）孤軍深入，派出兩個團占領了泗縣，于是改變主意，決定調集主力19個團攻打泗縣。

得知陳毅、宋時輪改變部署，華中分局的同志根據以往和桂軍的作戰經驗，建議山野繼續打薛岳，而不應改變部署，去打戰斗力強悍的桂軍。

陳毅、宋時輪回電：“……已決定5日夜攻泗縣不再變?！?/strong>

當時是7月，正值雨季，天上大雨滂沱，泗縣又正好地勢低洼，到處都是汪洋泥濘，部隊每晚只能走20里到30里，傷病員因此增加，很多手榴彈泡水無法使用。

8月3日，毛主席致電陳毅，指出雨天作戰條件不好，“過于急躁之意見并不恰當”，“你們手里有5萬機動兵力，只要耐心不性急，總可找到各個殲敵之機會。”

可是這封電報來遲了1天，8月2日晚，陳、宋就下達了攻打泗縣的命令。

泗縣戰斗進行到8月9日，泗縣最終未能拿下，山野決定停止攻擊，全部主力撤往睢寧休整。

泗縣戰斗結束后不久，留守山東的張云逸、黎玉發來告急電報，稱魯南形勢嚴峻，遭到了馮治安12個團的進攻，希望陳毅趕快率領主力返回山東。

而華中的粟裕、譚震林此時也發來了電報，建議陳毅將一個縱隊調到華中，配合他們打高郵。

同時，眼看敵人逐步向東，不斷入侵，毛主席也給陳毅發來了電報要他停止休整，“仿粟裕辦法，集中主力殲敵一部。”

這個時候的陳毅陷入了前后左右“四難”的境地：山東要求他北上支援；華中要他分兵南下支援；中央要他向西攻擊；泗縣戰斗后，部隊急需休整，可戰局如此，根本沒有休整的可能。

大家都需要他，可是他那里也去不了。

中央對于這一情況也非常焦心，當時我軍在華東的兵力其實并不少，但卻分成了山東、兩淮、華中三大坨，各自為戰。如果集中兵力到一處吧，其它兩處就會被放棄；但如果不集中，在幾個方向各自為戰，就打不了大的殲滅戰。

9月6日，毛主席致電陳毅：“我們準備派徐向前同志來魯，負魯南前線指揮之責?！边@樣的話，膠濟、魯南、淮海、蘇中這4個前線，“均有適當兵力與指揮人員，而你（陳毅）則負統籌各個前線之責，并直接指導淮海?！?/strong>

毛主席征詢陳毅對此事的看法：“這樣是否妥當，或有其它方案，望考慮見復?！?/strong>

當時的陳毅是山東軍區的司令員，山東的指揮交給徐向前，自己反而直接指導山東之外的兩淮，他當然明白這個任命對他來說意味著什么，但他一向顧全大局，不計較個人地位的升降。

9月7日，陳毅回電表示：“歡迎先前來魯?！?/strong>

中央派徐向前到山東，也可謂是用心良苦。1939年6月到1940年6月，徐向前曾在山東工作過一年的時間，負責統一領導山東和蘇北的武裝力量，這期間，山東的工作進行得很順利，到徐向前離開時，已經擁有了15萬主力部隊和50萬民兵。

而且，山東軍區的很多將領，比如許世友、王建安、錢鈞、吳瑞林、陳奇、楊國夫、胡奇才等同志，都出自紅四方面軍，是徐向前多年的老部下，對徐向前都非常熟悉。如果派徐向前到山東，他一定可以很好地統籌山東的工作。

然而，毛主席的這個提議因為接下來發生的事情并沒有付諸實踐。

當時國軍擺出要和我軍在泗陽決戰的架勢，將山野主力吸引到了北邊，而真正的主力部隊則隱蔽開進，直撲空虛的兩淮。

“由于我軍在戰役偵查上存在嚴重的失誤，受敵軍佯動迷惑，沒有觀察到國民黨軍直撲淮安、淮陰的企圖?！?/strong>

直到國軍74師開始進攻，山野指揮部才判明了敵軍的企圖，宋時輪火速趕到前線指揮部隊回防，當山野主力已經被助攻的國軍拖住了，無法向淮陰方向增援。

9月11日，毛主席電告粟裕等：“敵6個旅南下，兩淮危急。粟率蘇中主力立即開兩淮，準備配合陳宋主力徹底殲滅該敵?！?/p>

但是，從蘇中到淮陰，距離有250公里，一路都是水網，加上天降大雨，根本最快也要20天才能趕到。

粟裕匆忙布置了任務，隨后自己率領小隊人馬先行趕往淮陰。9月19日，粟裕來到淮陰和譚震林會合后，認為情況已經非常嚴重，再打下去也無濟于事，于是做出了放棄淮陰的決定。

一天之后，我軍又主動放棄了淮安。

兩淮保衛戰至此結束。

隨著兩淮的失守，我軍此前是三路大軍各自為戰，現在，客觀局勢為我們做出了選擇，把這三支部隊壓縮到了一起。從這個角度來看，兩淮失守反而有其好的一面。所以粟裕大將當時就一針見血地說道：“我軍的撤出兩淮，絕不是我們軍事上的失敗，而是對蔣軍大規模殲滅戰的開始?！?/p>

9月20日，華中野戰軍首先提出了山東野戰軍合并的建議。

9月23日，毛主席回電，“山野、華野兩軍集中行動，兩個指揮部亦應合一。提議陳毅為司令員兼政委，粟裕為副司令員，譚震林為副政委……正副參謀長以何人為宜？”

根據陳毅的建議，原山野參謀長宋時輪調往渤海軍區，由陳士榘擔任參謀長職務。

10月1日，陳毅和華中同志商量完下一步的軍事部署后，向毛主席發電匯報了情況，并說：“兩次到分局會談，他們的戰爭方針很中缺。但我至淮北占據顧慮太多，決心不夠，未能發揮山野力量……今后集結張（云逸）、鄧（子恢）、粟（裕）在一起，軍事上由粟多下決心，定可改變局面?！?/strong>

10月3日，毛主席復電：“部署甚好，望堅決執行。”

三路大軍合而為一，指揮班子也已經確定，徐向前也就沒有到山東的必要了。

不久后，徐向前被任命為晉冀魯豫軍區第一副司令員，擔負起了解放山西的重要任務。