張宗遜十四歲那年，他進渭南赤水職業(yè)學校念書，接觸到一些新想法，慢慢對社會不公有了看法。十八歲時，他加入中國共產黨，那年頭入黨可不是鬧著玩的，得冒風險。

同期他考上黃埔軍校第五期，學政治科，軍校里天天操練，槍械戰(zhàn)術啥都得學，他在那兒編入入伍生團，畢業(yè)后分到國民革命軍第八軍第三師第九團，當政治指導員。北伐打起來，他跟著部隊往前沖，參與攻打軍閥的戰(zhàn)斗，積累了實戰(zhàn)經驗。

北伐后，他升到第二方面軍總指揮部警衛(wèi)團第三營連長。1927年秋收起義爆發(fā)，他轉入中國工農革命軍第一軍第一師第一團二營六連，當連長。部隊轉移到井岡山，他參與開辟根據地，修工事，組織生產，打擊敵人。

1929年，他當上紅四軍第三縱隊第九支隊副支隊長，后來升支隊長，在贛南閩西打游擊。1930年，他升紅一方面軍第三十六師師長，帶隊參加中央蘇區(qū)五次反圍剿，指揮部隊阻擊國民黨軍。

長征開始，他任紅十團團長，部隊翻雪山過草地，他負責帶隊穿越險地，確保后勤跟上。1935年到陜北后，他繼續(xù)指揮作戰(zhàn)。抗日戰(zhàn)爭時期，他調到八路軍一二〇師三五八旅當旅長，在華北地區(qū)打日軍，組織雁門關伏擊，破壞交通線。

百團大戰(zhàn)中，他帶隊炸鐵路橋，切斷日軍補給。1945年抗日結束，他轉入解放戰(zhàn)爭，任晉綏軍區(qū)第一縱隊司令員，1946年去延安保衛(wèi)黨中央。

1947年，他當陜甘寧野戰(zhàn)集團軍司令員，指揮沙家店戰(zhàn)役，殲滅敵主力。西北解放中，他任西北野戰(zhàn)軍副司令員，參與蘭州戰(zhàn)役等。新中國成立后，他繼續(xù)在軍中任職，1952年任副總參謀長，管訓練。

1955年授銜上將，得一級八一、一級獨立自由、一級解放勛章。那時候授銜看資歷、職位和貢獻，他雖是大將候選，但綜合考慮定為上將。1959年調濟南軍區(qū)副司令員，組織防務。1964年推動全軍比武，推動部隊實戰(zhàn)能力提升。

晚年他還關注軍隊后勤改革，提建議，推動改進。他的軍旅路從基層干起，一步步到高層，跨過革命戰(zhàn)爭到和平建設，參與軍隊多個階段建設，留下不少貢獻記錄。

1976年是個多事年，周恩來、朱德、毛澤東相繼去世，國家面臨考驗。7月28日凌晨，唐山7.8級地震，造成24萬人死亡，16萬人重傷，城市基礎設施全毀，鐵路公路中斷，供水供電停擺。

災區(qū)物資短缺，傷員需要緊急救治，防疫壓力大。中央快速響應，華國鋒作為第一副主席和總理，主持會議成立抗震救災指揮部。

7月29日，華國鋒在中南海召見張宗遜，當時張宗遜68歲，總后勤部部長。華國鋒指示他全權負責災區(qū)后勤保障，包括物資運輸、藥品供應、傷員轉運。

張宗遜接受任務，馬上組織隊伍。他從總后勤部抽調人員，統(tǒng)計庫存，準備藥品、帳篷、食品?？紤]到道路破壞，他安排多種運輸方式：鐵路、汽車、摩托、人力背負、空投，確保物資不間斷抵達。

抵達災區(qū)后，他設值班室，制定分配方案，對藥品用量精確控制。災區(qū)藥品短缺，他動用空軍，九架伊爾-14飛機改裝投擲，三天投下86噸藥品，創(chuàng)國內記錄。設立雙向列車，優(yōu)先運傷員，協(xié)調醫(yī)院床位。

同時，他要求轉移點配浴室，控制傳染病傳播。救援推進，他組織礦山恢復，板房搭建，物資分批運送，上一批還沒到下一批已出發(fā)。

20多天內，災區(qū)重建起步，傷員轉移，礦山運營，中央認可他的工作。整個過程，他利用西北剿匪經驗，確保后勤鏈條穩(wěn)固。

救災結束后，張宗遜回北京，繼續(xù)總后勤部工作，檢查庫存，調整供應。1977年初，他向中央軍委提離休申請，獲批。離崗時，他寫下“愿后勤永不掉鏈”，體現作風。1978年正式離休，結束領導職務。