1914年11月生，江西省吉安縣坪裏村人。1929年10月參加吉安農民暴動和儒林區赤衛大隊。12月加入中國共産主義青年團。1931年5月轉為中國共産黨黨員。先後擔任吉安赤衛大隊分隊長、中隊長。1933年起歷任湘贛省蘇維埃政府工農檢查委員會委員，紅軍大學第四分校連指導員。1935年任紅六軍團第十八師第五十三團政治委員。同年6月任紅二軍團第六師第十八團政治委員。參加湘贛蘇區反“圍剿”和創建湘鄂川黔革命根據地的鬥爭。1935年9月參加長征。率部擔任紅二軍團前衛 ，在掩護部隊西進的戰鬥中身負重傷，仍堅持北上。後因傷口惡化，截去左臂。1936年11月入中國抗日紅軍大學學習。全國抗日戰爭時期，任中央軍委總政治部直屬政治處副主任。1938年起任八路軍總政治部組織科科長兼巡視團主任，八路軍第一二○師幹部大隊政治委員。1939年6月起任八路軍第一二○師第三支隊政治委員，率部開赴（北）平、（天）津、保（定）三角地帶，開展遊擊戰爭，多次粉碎日、偽軍“掃蕩”。同時，在雄縣、霸縣、固安、新城等地建立抗日民主政權。1940年5月奉命率獨立第三支隊開赴晉西北，參加百團大戰。11月主動要求將第三支隊縮編為第三五八旅第八團，任團政治委員，將多餘人員補充給兄弟部隊。1941年5月率部開進寧武地區，創建了以寧武為中心的管涔山革命根據地。1945年4月至6月作為陜甘寧邊區代表團成員出席中共七大。7月前任八路軍第三五八旅政治部主任。同年8月至1946年11月任晉綏野戰軍第三五八旅政治委員兼政治部主任。率部挺進晉西北，參加對日軍進行大反攻，連續攻克柳林、離石等城鎮。1946年11月至1947年2月任晉綏軍區第一縱隊第三五八旅政治委員。1947年2月至3月任陜甘寧野戰集團軍第一縱隊第三五八旅政治委員。3月至7月任西北野戰兵團第一縱隊第三五八旅政治委員。1947年7月至1949年2月任西北野戰軍第一縱隊第三五八旅政治委員。率部參加延安保衛戰，青化砭、羊馬河、蟠龍等戰役。1948年後率部參加宜川、西府隴東、荔北等戰役。1949年2月至6月任第一野戰軍第一軍第一師政治委員。6月至9月任第一野戰軍第一兵團第一軍副政治委員、黨委常委。參加陜中、扶眉、蘭州等戰役。青海解放後，兼任青海省軍政委員會副主席。1949年10月至12月任第一野戰軍暨西北軍區第一兵團第一軍兼青海軍區第二副政治委員、黨委常委。1949年12月任中共川西區黨委委員，1950年4月起任川西區黨委常務委員。深入農村發動群眾，揭露、打擊土匪和反動地主的破壞活動，加快了徵糧的工作進度。1950年9月至1951年1月任西南軍政大學副政治委員、黨委副書記。1951年9月西南軍大改編為第二高級步兵學校，任校長兼政治委員。1952年2月至1955年5月任西南軍區後勤部部長兼政治委員、黨委書記。1952年5月至1955年5月任西南軍區黨委常委。1954年12月至1955年9月調任中央軍委財務部副部長，1955年9月任解放軍總財務部部長。1955年1月至1957年5月任解放軍財務部黨委書記。1957年5月至1958年3月任軍委總後勤部政治委員，總後勤部黨委第二書記(至1958年4月)。1958年2月至“文化大革命”初期任國務院石油工業部部長。1958年5月至1965年2月任石油部黨組書記。組織並參加大慶油田的開發工作，兼任大慶石油會戰指揮部工委書記。1965年11月至1970年6月任國家計劃委員會第一副主任兼秘書長。1966年9月協助國務院領導抓經濟工作。1970年6月至1973年8月任國家計劃委員會革命委員會主任、黨組書記(至1980年3月)。1973年8月至1980年3月任國家計劃委員會主任。“文化大革命”中協助周恩來總理做了大量工作，堅決支持鄧小平對國民經濟各部門進行整頓。1979年兼任國家財經委員會委員、國務院進出口領導小組組長。1980年3月至1982年5月任國家能源委員會黨組書記。1980年8月至1982年5月任國家能源委員會主任。1982年5月至1983年6月改任國務委員。1983年6月任中央軍事委員會委員。1982年9月調任中共中央軍委委員、中央軍委副秘書長、解放軍總政治部主任（至1987年11月）。1982年10月至1985年7月任總政治部黨委第一書記。1985年7月至1987年11月任總政治部黨委書記。1987年11月退居二線。

    1955年被授予中將軍銜，榮獲二級八一勳章、一級獨立自由勳章、一級解放勳章。1988年7月榮獲一級紅星功勳榮譽章。

    是中共九大、十大、十一大中央委員，第十一屆中央政治局委員。1980年2月在中共十一屆五中全會上當選為中央書記處書記。1982年9月在中共十二大上當選為中央委員、中央政治局委員、中央書記處書記。1987年11月在中共十三大上當選為中央顧問委員會常務委員。

    1999年2月3日因病在北京逝世。

    出版有《余秋裏回憶錄》。