2004年，中央作出深化農村稅費改革的重大決定，圍繞確保糧食安全和農民增收兩大主題，提出“五年內取消農業稅”的目標，並決定2004年取消除煙葉外的農業特産稅，在黑龍江、吉林兩省開展免徵農業稅試點，其它省份降低農業稅稅率。當年，除黑龍江、吉林兩省外，還有上海、北京、天津、浙江、福建、西藏6個省份和其他省份的274個縣（市）也自主免徵或基本免徵農業稅；河北、內蒙古、遼寧、江蘇、安徽、江西、河南、湖北、湖南、廣東、四川11個糧食主産省份的農業稅稅率降低3個百分點；其餘省份農業稅稅率降低1個百分點。據統計，2004年取消除煙葉外特産稅減輕農民負擔68億元，實施減免農業稅政策減輕農民負擔234億元。其中，免徵地區受益農民1.5億人，人均減負約46元。

    2005年，中央繼續大範圍、大幅度減免農業稅，在國家扶貧開發重點縣實行免徵農業稅試點，其他地區進一步降低農業稅稅率，免徵牧業稅,並明確2006年將在全國全面免徵農業稅，原定5年內取消農業稅的目標可以提前2年實現。根據中央政策精神，各地加快免徵農業稅步伐，2005年共有山西、內蒙古、遼寧、江蘇、安徽、江西、湖南、湖北、河南、廣東、廣西、海南、重慶、四川、貴州、陜西、甘肅、青海、寧夏、新疆20個省份自主決定免徵農業稅，使免徵農業稅的省份達到了28個，仍保留農業稅的河北、山東、雲南3省也有216個縣免徵農業稅，享受免徵農業稅的農民達到8億以上。據統計，2005年減免農業稅進一步減輕了農民負擔220億元，其中地方自主擴大免徵範圍部分約63億元，目前在河北、山東、雲南3省保留的農業稅僅有15億元左右，總體稅率約為2%。