原名呂正超，字必之。1905年1月生於奉天（今遼寧）省海城縣唐王山後村一個貧苦農民家庭。8歲時在本村小學讀書。1918年到繅絲廠當學徒。1922年參加東北軍。1923年入東北講武堂學習。畢業後，任東北軍第五十三軍連長、營長、少校副官隊長，第一一六師參謀處長，六四七團、六九一團團長。1933年參加熱河抗戰。1936年組織“東北武裝同志抗日救亡先鋒隊”，任總隊長，參加“西安事變”。1937年5月加入中國共産黨。抗日戰爭爆發後，任冀中人民自衛軍司令員，八路軍第三縱隊司令員，冀中軍區司令員兼冀中行政公署主任，冀中區總指揮部副總指揮。1943的任晉綏軍區司令員，中共中央晉綏分局委員。抗日戰爭勝利後，任東北民主聯軍副總司令兼西滿軍區司令員，東北軍區副司令員兼東北鐵路總局局長，東北人民政府鐵道部部長，中共中央東北局委員，中央軍委鐵道部副部長兼鐵道兵團副司令員。中華人民共和國成立後，任中央人民政府鐵道部副部長、代部長，中央軍委軍事運輸司令員，解放軍總參謀部軍事交通部部長。

    1955年被授予上將軍銜，並獲一級獨立自由勳章、一級解放勳章。1964年任西南鐵路建設總指揮部副總指揮、工地指揮部司令員兼政治委員和鐵道兵第一政治委員。1965年任鐵道部部長。1983年6月至1988年3月任政協全國委員會副主席。

    是中共第七屆中央候補委員，第八、十一屆中央委員，第十二屆中共中央顧問委員會委員；第一、二、三屆中華人民共和國國防委員會委員；第一、二、三屆全國人民代表大會代表，第四屆全國人民代表大會常務委員會委員；政協第二、三屆全國委員會常務委員，第四屆全國委員會委員。

    2009年10月13日在北京逝世，享年106歲。