1955年為了部隊的建設，中央決定在全軍實行軍銜制度，這也就有利于我國同世界進行更好的聯系。于是國家就開始對曾經在各個時期做出貢獻的將領給予軍銜獎勵，這是軍人的最高榮譽，同時也需要讓每個將士都滿意。有了這方面的考慮，中央就出臺了軍銜工作的指示，當時我軍采取的軍銜制度也是世界通用的，不過這個軍銜評定工作可是非常復雜的，同時也受外界關注。后來中央就多次開會討論，從而確定軍銜評定的標準。

元帥的標準就是擔任軍委主席的，還有軍委委員的將領都應該被授予元帥，而后大家就提議毛主席應該是大元帥，畢竟毛主席是軍委主席，還在抗日戰爭的時候指揮過不少的戰斗，為抗日勝利做出很多貢獻，另外他還是國家的領袖，這個大元帥非毛主席莫屬。然而主席在看到這個名單中有自己名字的時候，他表示自己不當這個元帥，因為穿元帥服就不能同人民接觸了，這是非常不舒服的，他不愿意讓軍銜成為聯系人民的阻礙。就這樣毛主席主動放棄大元帥軍銜。

正是因為毛主席做出了表率，這也讓不少人都紛紛效仿，這其中就有劉少奇，周總理，鄧小平，李先念等人，他們都放棄了軍銜，這足以看出這些將領淡泊名利的心胸。不過在軍銜授予的過程中，粟裕的軍銜評定也是遭受過質疑。粟裕在解放戰爭中可是立下大功的，就連毛主席都對其稱贊不已，同時還說他是在淮海戰役中立下首功的，而且隨著粟裕在戰場上的表現，也讓所有人都對他敬佩。尤其是在軍事上，已經是無人能及的存在，就連林彪與劉伯承都對他稱贊有加。

因此，在對粟裕的軍銜評定上，不少人覺得粟裕是可以授予元帥軍銜的，就連長期在毛主席身邊工作的李銀橋回憶中就提到過，對于粟裕軍銜評定上，中南海就多次召開會議，參加會議的人有劉少奇，周恩來，還有朱德等人。在會議上毛主席就提出，不管是德，才還是軍功，資歷上，粟裕都達到了元帥的標準，應該給予元帥軍銜。

然而毛主席的話音剛落，周總理就說，粟裕已經推辭了元帥軍銜。在聽說粟裕的舉動后，毛主席感嘆道，難得啊，粟裕竟然三次讓帥，這真的是部隊的表率，從毛主席的話語中，可以看出毛主席對粟裕的能力，還有品格是非常認可的。

雖然粟裕主動辭讓元帥，不過他在解放戰爭的功勞是不能忽視的，所以周總理就在會議上提出，粟裕雖然不想當元帥，可是大將他就必須得當了。毛主席也認可周總理的話，所以就說粟裕授予第一大將。就這樣粟裕的軍銜確定了，而他也成為大將中排名第一的將領。9月27日，授銜儀式開始，而粟裕也是在會場上首個從周總理手里接過大將軍銜命令的人。其實就毛主席說粟裕三次辭讓的事情，在解放戰爭的時候就發生了。

1945年抗日戰爭勝利之后，中央就將各個戰區進行新的規劃，華中軍區的司令組織覺得應該讓粟裕來擔任，畢竟他在抗日陷陣中的表現都是有目共睹的，所以就讓粟裕來當，可是粟裕卻提出讓張鼎丞擔任軍區司令，而他可以當副手。

正是因為粟裕的提出，再加上張鼎丞在黨內的地位還有影響力，最后他成為軍區的司令，而粟裕擔任副司令。后來華野的陳毅要被調往中原軍區，中央就想讓粟裕來指揮這支部隊，不過粟裕卻堅持要保留陳毅在華野的職務，說陳毅對華野的影響大，他只當代理司令，之后陳毅還是會回來華野工作的，可見粟裕是多么的心胸寬廣，淡泊名利。