1907年8月10日生於湖南會同坪村鄉楓木樹腳村。侗族。1926年加入中國共産主義青年團。1927年5月參加葉挺為師長的國民革命軍第24師,任教導隊班長。同年6月轉入中國共産黨。參加了南昌起義和湘南起義。曾任中國工農紅軍第一軍團的連長、營長、支隊長、師長、軍參謀長,第七軍團參謀長等職,參加創建中央革命根據地的鬥爭和歷次反“圍剿”。1934年7月起,參與指揮紅軍北上抗日先遣隊,轉戰閩浙皖贛邊,任挺進師師長、閩浙軍區司令員,在國民黨統治的腹心地區開闢浙南遊擊根據地,挫敗了國民黨軍多次“圍剿”,在與中共中央失去聯絡的情況下,堅持了極其艱苦的3年遊擊戰爭。抗日戰爭爆發後,任新四軍第2支隊副司令員,先遣支隊司令員,新四軍江南指揮部、蘇北指揮部副指揮。協助陳毅開闢江南、蘇北抗日根據地,參與指揮黃橋等戰役戰鬥。皖南事變後,任新四軍第1師師長(後兼政治委員)、蘇中軍區司令員兼政治委員、蘇中區黨委書記,領導蘇中軍民挫敗日偽軍頻繁的“掃蕩”、“清鄉”,堅持和鞏固了蘇中抗日民主根據地。1944年底任蘇浙軍區司令員兼政治委員 、蘇浙區黨委書記。日本投降後,任華中軍區副司令員、華中野戰軍司令員。1946年,同譚震林一起指揮了蘇中戰役。山東、華中野戰軍會師後,參與指揮宿北、魯南戰役。1947年1月,任華東野戰軍副司令員,在陳毅領導下,負責戰役指揮,進行了萊蕪、孟良崮等戰役。後和陳毅指揮華東野戰軍外線兵團,與劉(伯承)鄧(小平)、陳(賡)謝(富治)大軍密切協同,挺進中原。陳毅到中原局和中原軍區工作期間,他任華東野戰軍代司令員、代政治委員,指揮了豫東戰役 。同年9月,組織指揮濟南戰役。11月起,任中共淮海前線總前委成員,參與指揮淮海戰役,直接指揮華東野戰軍作戰。1949年1月,任第三野戰軍副司令員,參與指揮渡江戰役,組織指揮上海戰役。南京、上海解放後,兼任華東軍政委員會副主席。
中華人民共和國建立後,任華東軍區暨第三野戰軍副司令員、人民解放軍副總參謀長、總參謀長,國防部副部長,軍事科學院副院長、第一政治委員,中共中央軍委常務委員。1955年被授予大將軍銜和一級八一勳章、一級獨立自由勳章、一級解放勳章。
是中共第七屆中央候補委員,第八屆至第十一屆中央委員。1982年被選為中共中央顧問委員會常務委員。當選為第五屆全國人大常委會副委員長。
1984年2月5日病逝于北京。