2012年4月8日，中國稀土行業協會成立大會暨第一屆會員代表大會在北京召開。工業和信息化部部長苗圩、副部長蘇波，中國工程院副院長干勇出席成立大會，苗圩、幹勇為協會揭牌。發展改革委、監察部、財政部、國土資源部、環境保護部、商務部等稀有金屬部際協調機製成員單位和國務院有關部門同志出席了大會。有關省區工業主管部門、稀土行業155家會員企業和新聞媒體代表參加了會議。工業和信息化部原材料司司長陳燕海主持成立大會。

    蘇波發表講話，他指出組建中國稀土行業協會是貫徹落實《國務院關於促進稀土行業持續健康發展的若干意見》的重要工作，對於推動稀土行業健康發展具有重要意義。

    蘇波總結了國務院稀土文件下發以來，各地區、各部門開展的主要工作和取得的積極成效，深入分析了當前稀土行業存在的資源環境等突出問題，提出了當前和今後一段時期內稀土管理的重點工作：一是繼續整頓稀土行業秩序，開展稀土行業環境治理，加強環境保護；二是加快組建大型稀土企業集團；三是嚴格執行指令性生産計劃；四是進一步加強法規建設；五是推動稀土産業調整升級。

    蘇波要求協會努力加強自身建設，切實提高服務能力和水平，為企業發展提供良好服務；積極發揮橋梁和紐帶作用，引導企業貫徹國家政策，反映企業訴求，建立健全行業自律機制，逐步規範市場秩序，為稀土行業的持續健康發展作出積極貢獻。

    成立大會結束後，中國稀土行業協會召開了第一次會員代表大會，審議並通過了《中國稀土行業協會章程》等文件，選舉産生了中國稀土行業協會第一屆理事會。隨後，還召開了第一屆理事會全體會議，選舉産生了第一屆常務理事、會長、副會長、秘書長等協會領導機構。幹勇院士出任中國稀土行業協會第一任會長，馬榮璋出任第一任秘書長。