金紹山出生于1915年，湖北省大悟縣人。土地革命時期，革命的春風吹到金紹山的家鄉，當地成立農民協會，革命形勢如火如荼地發展起來。受此影響，金紹山也接觸到進步思想，并積極參加各種革命活動，探索拯救國家與民族的道路。

1930年，金紹山參加了紅軍，成為鄂豫皖根據地紅二十五軍的一員。參加紅軍之后，他隨部參加了鄂豫皖根據地的反“圍剿”作戰，因表現優秀，金紹山很快就晉升為排長、連政治指導員。1932年，紅四方面軍離開鄂豫皖根據地后，金紹山留守根據地，堅持游擊斗爭，并參加了紅二十五軍的重建。

紅二十五軍重建之后，金紹山繼續留在鄂豫皖根據地斗爭，策應主力部隊長征。1933年，金紹山加入了共青團，同年，他轉為正式黨員。1934年11月，金紹山跟隨紅二十五軍踏上了長征之路。1935年9月，金紹山隨部到達陜北，此后他繼續參加了鞏固與建設陜北根據地的戰斗，為后續中央紅軍在陜北落腳奠定了基礎。

抗日戰爭全面爆發后，金紹山所在的部隊被改編為八路軍，他擔任了八路軍一一五師三四四旅六八八團連政治指導員，六八七團營政治教導員、營長、副團長以及冀魯豫軍區新編第二旅四團副團長等職務，隨部前往華北抗日前線，在極端困難的環境下，多次粉碎日本侵略者的“掃蕩”與“蠶食”計劃，為抗日戰爭的勝利作出了重要的貢獻。

抗戰勝利后，金紹山擔任了冀魯豫軍區水東軍分區司令員、豫皖蘇軍區獨立旅旅長、第二野戰軍十八軍五十三師師長等職務，參加了解放中原、淮海戰役、渡江戰役等作戰，殲滅大量敵人。尤其是1947年，金紹山采取分路出擊、遠道奔襲戰術，率部解放了二十余城，打得敵人望風而逃。

新中國成立后，金紹山并沒有停下戰斗的腳步，他又馬不停蹄地跟隨二野挺進西南，參加了解放西南的戰斗。西南解放后，金紹山留在川西軍區工作，擔任了18軍53師師長，參與指揮了川西一帶的剿匪，1950年，他還在剿匪作戰中立下一等功，同時，也圓滿完成了剿匪任務，穩定了地方的社會秩序，鞏固了新生的政權。

剿匪結束之后，金紹山繼續留在西南地區工作，1951年，他指揮修建了甘孜機場。甘孜地區的海拔3800多米，而且當地山高風大，戰士們住不了帳篷，只能搭建窯洞居住，條件十分惡劣。再加上高原反應的影響，可謂是困難重重。但這些難不倒英勇無畏的子弟兵，在金紹山的帶領下，他們利用8個月的時間修筑了機場，解決了當地給養困難的問題。也因為金紹山在修筑甘孜機場期間的表現，他再次立下一等功。

然而，長期在高原地區工作也損傷了金紹山的身體，1952年，金紹山患上肺結核，也是這一年之后，他陸續進入軍事學院以及西南軍區第7文化速成中學學習。1954年，學習完畢后，組織征詢他的意見，金紹山堅持留在高原地區工作，繼續投身高原地區我軍的各項建設當中。

1955年，金紹山被授予少將軍銜，成為開國少將。授銜之后兩年，也就是1957年，金紹山突發疾病去世，年僅42歲。