伍瑞卿出生于1911年，湖北大悟人，出生于一個貧寒的農民家庭。大革命時期，當革命的春風傳到伍瑞卿的家鄉時，伍瑞卿也受進步思想影響，積極參加農民協會，走上了探索拯救國家與民族的革命道路。

1927年，轟轟烈烈的大革命運動失敗，國內革命活動陷入低潮，但伍瑞卿沒有對革命事業灰心，11月，他加入了我黨，成為一名光榮的黨員。入黨之后，伍瑞卿主要活躍在湖北黃安一帶，擔任交通員等職務，為工農革命隊伍傳遞情報，積累革命經驗。

1931年，伍瑞卿加入了紅軍，擔任了黃安縣獨立團第一營第三連副班長、司務長等職務。也是這一年，以紅四軍為基礎，紅四方面軍在鄂豫皖根據地成立，此后伍瑞卿也參加了鄂豫皖根據地的反“圍剿”作戰，并在紅四方面軍離開鄂豫皖根據地后選擇留守根據地。

留守根據地期間，伍瑞卿參加了紅二十五軍的重建，擔任了紅二十五軍第七十五師第二二四團軍需科科長、師供給部軍需科科長等職務。1934年11月，他跟隨紅二十五軍參加了長征，順利到達陜北。到達陜北后，伍瑞卿又參加了鞏固與建設陜北根據地的直羅鎮戰役、東征以及西征，為中央紅軍在陜北落腳創造了條件。

1937年，抗日戰爭全面爆發，在兩黨第二次合作的基礎上，陜北的紅軍主力改編為八路軍，伍瑞卿擔任了115師344旅第687團供給處軍需股股長、687團供給處處長以及八路軍344旅供給處處長等職務，期間，他參加了平型關戰役、晉東南根據地的反“九路圍攻”以及百團大戰，打擊了日本侵略者的囂張氣焰。

1940年，伍瑞卿隨軍南下，前往華中一帶抵抗日本侵略者。1941年，皖南事變之后，新四軍軍部重建，伍瑞卿也被編入新四軍，并擔任了新四軍第三師第八旅供給部部長，此后他率部參加了鹽阜區反“掃蕩”、陳集殲滅戰、陳家港戰斗等作戰，在極端復雜的環境下，與日本侵略者以及國民黨頑固派進行了不屈不撓的斗爭，為抗戰的勝利作出了積極的貢獻。

抗戰勝利后，伍瑞卿奔赴東北，繼續在東北從事后勤工作，擔任了東北野戰軍第二縱隊后勤部部長、東北野戰軍第三十九軍后勤部部長等職務。任職期間，他嚴格按照上級規定完成供給任務，保障了前線的物資供應，促進了東北的解放。

新中國成立后，伍瑞卿參加了抗美援朝，并擔任了三十九軍后勤部部長。1951年，伍瑞卿返回國內，進入東北軍區任職，擔任了東北軍區后勤部營房部部長、東北軍區后勤部副部長，期間，他積極做好軍區的后勤工作，尤其是在保障志愿軍后勤供給方面，為建設“打不垮、炸不爛”的鋼鐵運輸線作出了重要的貢獻。

1955年，伍瑞卿被授予少將軍銜，成為開國少將。授銜之后，伍瑞卿繼續從事后勤工作，擔任了政治學院物資保證部部長、政治學院院務部部長等職務，為我軍的后勤領域培養了大批優秀的干部，壯大了后勤的建設。

革命時期，伍瑞卿南征北戰，新中國成立后，他長期廢寢忘食地工作，所以身體每況愈下。在授銜后10年，也就是1965年，伍瑞卿因病離職休養。離休之后，伍瑞卿主要生活在北京，于2004年因病去世，享年93歲。