1908年生,湖南瀏陽人。1924年參加工作。1927年加入共青團,同年轉入中國共産黨。1929年參加中國工農紅軍。
土地革命戰爭時期,任粵漢鐵路長岳段工會糾察隊中隊長,湘鄂贛邊區赤衛隊支隊長兼政委,中國工農紅軍湘東獨立一師團政委,師政治部主任、師政委兼第八軍代政委,湘贛軍區代司令員。參與領導湘贛革命根據地反“圍剿”鬥爭,曾獲三等紅星獎章。後任第六軍團政委,第二軍團政委。參與開闢湘鄂川黔革命根據地。1935年參加長征。
抗日戰爭時期,任八路軍一二0師三五九旅副旅長、旅長兼政委。1941年初率三五九旅屯墾南泥灣。1942年兼任中共延安地委書記、延安軍分區司令員、衛戍區司令員。1944年任八路軍南下支隊司令員。
解放戰爭時期,任中原軍區第一副司令員兼參謀長,參與指揮中原突圍。後任西北野戰軍第二縱隊司令員兼政委、軍長兼政委,第一野戰軍兵團司令員兼政委。參加了延安保衛戰和青化砭、羊馬河、蟠龍等戰役。
1949年率部挺進新疆。後任中共中央新疆分局書記,新疆軍區第一副司令員、代司令員兼政委。1953年後任鐵道兵司令員兼政委。1955年任解放軍副總參謀長。1956年任國務院農墾部部長。1975年任國務院副總理。1978年任中共中央軍委常委。1982年任中共中央黨校校長。1985年在中共中央顧問委員會第五次會議上被增選為中共中央顧問委員會副主任。1986年任中國中小學幼兒教師獎勵基金會理事長。1988年當選為中華人民共和國副主席。還曾任中日友協名譽會長,中國國際友好聯絡會名譽會長,中國殘疾人福利基金會名譽理事長。
是中共第七屆中央候補委員,第八至十屆中央委員,第十一、十二屆中央政治局委員,第十三、十四大代表,第一至五、七屆全國人大代表。
1955年被授予上將軍銜。曾獲一級八一勳章、一級獨立自由勳章、一級解放勳章。1988年獲一級紅星功勳榮譽章。
1993年3月12日在廣州逝世,終年85歲,逝世後捐獻了眼角膜。同年4月5日骨灰撒放在新疆天山。