1953年5月上旬，主持軍委日常工作的彭德懷同副總顧問柯托夫中將(蘇方后來稱叫：巴托夫大將)說，過去我們各野戰軍的領導機關，比中央軍委的機構還要健全。當時是相對分散領導的。現在國家開始了有計劃的建設，不需要再分散了，各系統都要加強中央的領導，軍隊系統也必須加強。辦法是從年輕的軍級和兵團級干部中選拔一些人上來。以適應軍隊現代化的建設。

1949年10月1日，新中國建立以后，軍隊的主要任務是精簡整編和組建新的領導機構。由于軍隊員額已經達到了六百余萬，人員組成很多是俘虜兵，成分比較復雜。所以必須要經過精簡整編來減少軍隊員額，同時軍隊的人員組成也要達到一定程度的純潔性。而組建新的機構和充實各領導機關，也是迫切需要解決的問題。

加強軍委和各總部的領導力量最早始于聶榮臻。聶榮臻于1949年6月下旬，被任命為副總參謀長，并搬進中南海辦公。10月19日中央政府任命徐向前為總參謀長，聶榮臻為副總參謀長。因總參謀長徐向前病休，由聶榮臻代理總參謀長。從1949年10月開始到1951年10月粟裕調到總參為止，兩年多的時間里，總參謀部的正副總長只有聶榮臻一人。

1950年3月10日聶榮臻向毛主席提交《關于軍委機關及軍事院校建設問題的報告》。《報告》提出:

一、繼續加強空、海軍司令部建設，籌建炮兵、坦克裝甲兵、工兵司令部，并提出軍兵種領導人選建議;

二、總參作戰部建立軍務局、測繪局;情報部由軍委一局、二局合并組成; 組建通信聯絡部、軍事訓練部、軍事學校管理部;

三、總后勤部與華北軍區后勤部分開，組建軍需、軍械、財務、運輸、衛生部;

四、籌建總干部部;

五、加強航空、海軍、防空、測繪、機要學校、軍醫大學，籌建正規的炮兵、工兵學校;

六、籌建陸軍大學，使之成為建設正規化國防軍的訓練中心，儲備與深造高級軍事干部，請劉伯承主持。

這個報告被批準并陸續組織實施。

1950年5月，時任四野參謀長的蕭克，接到命令調到北京中央軍委，負責組建軍委軍事訓練部并任部長。

1951年9月中央決定調粟裕到總參任職，加強了總參的領導力量。1952年9月又陸續調黃克誠、張宗遜、李克農到總參任職，進一步加強了總參的領導力量。總參下設的各部局的領導，也由各軍區陸續抽調一部分軍級和兵團級的干部來充實和加強。

1949年10月羅榮桓首先被任命為檢察署檢察長，1950年4月又被任命為總政治部主任。最早中央計劃是由羅榮桓擔任公安部部長，而羅認為自己過去沒有從事過這方面工作，羅瑞卿由于紅軍時期較長時間任一軍團政治保衛局局長，擔任這一職務比較合適。因此推薦由羅瑞卿擔任建國后的第一任公安部部長。

1949年5月14日毛主席致電羅瑞卿到北京談話。接任十九兵團政委的李志民到任后，羅瑞卿立即趕奔北京。周恩來找羅瑞卿談話，要他出任軍委公安部部長。羅提出，希望隨四野南下，并認為由李克農出任公安部長更合適。周恩來對他說：“各人有各人的事，李克農有李克農的事，不要講價錢了”。周告訴他，“今晚主席要接見你，你就不要再提上前線的事了。”毛主席接見羅時說：聽說你不愿意擔任公安部長，還要去打仗？馬上要建立新的國家政權了，都去打仗，那行嗎？經過與毛主席談話后，羅瑞卿開始擔任軍委公安部部長，成立中央人民政府政務院后，公安部歸屬于政務院管轄。原來的中央社會部分別成立了公安部和情報部，情報部部長由李克農擔任。

羅榮桓接任總政主任時，總政機關只有一二十個人，其中包括副主任傅鐘，秘書長魏傳統，組織工作研究室主任黃鎮，宣傳工作研究室主任邱崗等。

原來的總政機構顯然已經不適應正規化建軍的需要，極須健全和加強總政的領導力量及各部門機構。

1954年10月以前，總政治部主任、副主任：

羅榮桓主任，1950年4月任職。原任：中南軍區第一政委、第四野戰軍政委。

譚政第一副主任，1954年9月任職。原任：中南軍區第三政委。

傅鐘副主任，留任。

蕭華副主任，1950年6月任職。原任：空軍政委。

甘泗淇副主任，1953年任職。原任：志愿軍副政委兼政治部主任。

1950年9月，總干部管理部建立時，同樣依據“五湖四海”的原則組建了領導班子。較長期在三野和華東地區工作的賴傳珠和一野的徐立清任副部長，不久又調二野的宋任窮、甘渭漢任副部長。有了從各野戰軍調來的領導干部，就可以做到熟悉并合理調配、使用各方面的干部。

聶帥在八十年代曾經回顧建國初期，在軍委總參時工作說到：“精簡整編和組建新的領導機構，都涉及到人的問題，許多事情離不開總政治部。在完成這項工作中，總參與總政配合得很好。當時羅榮桓同志是總政治部主任和總干部部長，我們思想一致，很多問題兩人商量一下就定了，從來沒有扯皮現象。這是大規模精簡整編和組建新的領導機構得以順利進行的重要原因之一。”

本文參考書籍：《聶榮臻年譜》、《聶榮臻傳》、《羅榮桓年譜》、《羅榮桓傳》、《彭德懷年譜》、《羅瑞卿傳》。

1955年9月27日，毛澤東主席為羅榮桓等元帥們授勛。

1955年11月，總政第一副主任譚政大將與軍委秘書長黃克誠大將觀看遼東半島軍事演習。

1955年10月1日，總參謀長粟裕大將與總政第一副主任譚政大將、軍委秘書長黃克誠大將、總干部部第一副部長宋任窮上將在天安門觀看閱兵式。

總參謀長粟裕大將與總政治部主任譚政大將、副主任蕭華上將、軍委辦公廳主任蕭向榮中將合影。

1950年9月20日，毛主席在羅榮桓關于提升軍長吳克華為兵團副司令員的報告上，除批示“同意”外，又寫道：榮桓同志：你宜少開會，甚至不開會，只和若干干部談話及批閱文件，對你身體好些，否則難以持久。請考慮。