張文舟出生于1912年，山西沁縣人。早年時(shí)期，他考入了馮玉祥創(chuàng)辦的西北軍陸軍軍官學(xué)校，接受了嚴(yán)格的軍事訓(xùn)練與教育。在軍校讀書(shū)期間，張文舟接觸到我黨的地下黨員，在進(jìn)步人士的影響下，他開(kāi)始參加革命活動(dòng)，并在1932年加入了我黨，成為一名光榮的黨員。

從軍校畢業(yè)后，張文舟進(jìn)入西北軍基層任職，任職期間，他秘密從事兵運(yùn)工作，引導(dǎo)周?chē)倪M(jìn)步青年走向光明。1933年夏天，張文舟參加了馮玉祥領(lǐng)導(dǎo)的抗日同盟軍，擔(dān)任了排長(zhǎng)一職，并參加了對(duì)日作戰(zhàn)。同年冬天，在國(guó)民黨的干預(yù)下，抗日同盟軍失敗，張文舟離開(kāi)同盟軍，進(jìn)入東北軍，繼續(xù)從事兵運(yùn)工作。

1935年，張文舟前往陜北，參加了紅軍。加入紅軍之后，他參加了鞏固發(fā)展陜甘邊革命根據(jù)地的反“圍剿”作戰(zhàn)。10月，中央紅軍到達(dá)陜北后，張文舟被調(diào)到紅十五軍團(tuán)，跟隨紅十五軍團(tuán)參加了西征等戰(zhàn)斗，壯大了陜北的革命武裝力量。

1937年，抗日戰(zhàn)爭(zhēng)全面爆發(fā)，陜北的紅軍主力改編為八路軍，張文舟也加入了八路軍，并擔(dān)任了八路軍后方總留處司令部參謀處作戰(zhàn)科科長(zhǎng)，不久后他又改任八路軍留守兵團(tuán)司令部參謀處處長(zhǎng)兼作教科科長(zhǎng)，期間，他協(xié)助參謀長(zhǎng)謀劃組織留守兵團(tuán)各部隊(duì)，做好戰(zhàn)備訓(xùn)練工作，保衛(wèi)了陜甘寧邊區(qū)，為免除前方將士的后顧之憂作出了重要的貢獻(xiàn)。

1942年，張文舟擔(dān)任了陜甘寧晉綏聯(lián)防軍司令部參謀處處長(zhǎng)，此后他組織部隊(duì)進(jìn)行軍事訓(xùn)練，積極開(kāi)展大生產(chǎn)運(yùn)動(dòng)，不斷提高了部隊(duì)的戰(zhàn)斗力，為保衛(wèi)與建設(shè)陜甘寧抗日后方基地作出了突出的貢獻(xiàn)。

抗戰(zhàn)勝利后，張文舟擔(dān)任了陜甘寧晉綏聯(lián)防軍警備第三旅兼三邊警備區(qū)副旅長(zhǎng)、陜甘寧晉綏聯(lián)防軍參謀長(zhǎng)等職務(wù)，率部參加了鞏固擴(kuò)大陜甘寧解放區(qū)的戰(zhàn)斗。西北野戰(zhàn)軍成立之后，他擔(dān)任了西北野戰(zhàn)軍參謀長(zhǎng)，參與指揮了宜川戰(zhàn)役、扶眉戰(zhàn)役、蘭州戰(zhàn)役等西北戰(zhàn)場(chǎng)的主要作戰(zhàn)，為解放大西北作出了積極的貢獻(xiàn)。

新中國(guó)成立后，張文舟擔(dān)任了第二兵團(tuán)兼甘肅軍區(qū)參謀長(zhǎng)，參與指揮了剿滅國(guó)民黨參與部隊(duì)以及土匪的戰(zhàn)斗，鞏固了新生的政權(quán)，穩(wěn)定了社會(huì)秩序。1950年，經(jīng)過(guò)上級(jí)批準(zhǔn)，決定以第二兵團(tuán)機(jī)構(gòu)為基礎(chǔ)組建摩托裝甲兵司令部，張文舟擔(dān)任了參謀長(zhǎng)，1951年，摩托裝甲兵司令部改稱(chēng)裝甲兵司令部，張文舟繼續(xù)擔(dān)任裝甲兵參謀長(zhǎng)，同時(shí)，他也是裝甲兵的第一任參謀長(zhǎng)。

任職期間，張文舟協(xié)助裝甲兵司令員許光達(dá)組建兵種機(jī)關(guān)，建立規(guī)章制度，開(kāi)展各項(xiàng)業(yè)務(wù)工作，使得裝甲兵司令部的各項(xiàng)工作迅速開(kāi)展起來(lái)。1952年，張文舟參加了抗美援朝，年底，他返回國(guó)內(nèi)，仍然擔(dān)任裝甲兵參謀長(zhǎng)。

在這之后，張文舟認(rèn)真總結(jié)抗美援朝的經(jīng)驗(yàn)，利用這些經(jīng)驗(yàn)組織全軍裝甲兵部隊(duì)開(kāi)展正規(guī)化訓(xùn)練，提高了指戰(zhàn)員的素養(yǎng)，從而推進(jìn)了裝甲兵部隊(duì)的現(xiàn)代化與正規(guī)化建設(shè)。1955年授銜時(shí)，張文舟被授予少將軍銜，成為開(kāi)國(guó)少將。在這之后，張文舟又擔(dān)任了裝甲兵學(xué)院第一副院長(zhǎng)，主持學(xué)院的實(shí)際工作。

在授銜之后的11年，也就是1966年，張文舟受到?jīng)_擊，身心受到極大的迫害。在那段艱難時(shí)期，他始終保持著革命樂(lè)觀主義精神，與造反派進(jìn)行了不屈不撓的斗爭(zhēng)。十一屆三中全會(huì)之后，張文舟積極組織裝甲兵的各項(xiàng)建設(shè)，即使離休之后，也依然為裝甲兵的建設(shè)獻(xiàn)言獻(xiàn)策。晚年的張文舟主要生活在北京，于1986年因病去世，享年74歲。