七部門聯合發文——促進生成式人工智慧健康發展和規範應用

近日，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公佈《生成式人工智慧服務管理暫行辦法》（以下簡稱《辦法》），自今年8月15日起施行。

國家網信辦有關負責人表示，出臺《辦法》，旨在促進生成式人工智慧健康發展和規範應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

採取有效措施鼓勵生成式人工智慧創新發展

作為關鍵通用技術，生成式人工智慧對人民福祉、經濟發展、國家安全和戰略競爭均具有重要意義。國家網信辦有關負責人説，《辦法》提出國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智慧創新發展。

《辦法》第一條開宗明義將“促進生成式人工智慧健康發展和規範應用”作為目標，第三條進一步闡明：“國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智慧創新發展，對生成式人工智慧服務實行包容審慎和分類分級監管”。

“《辦法》立足於促進生成式人工智慧健康發展和規範應用，除了在總則中明確了國家堅持發展和安全並重、促進創新和依法治理相結合的原則外，在‘技術發展與治理’一章中專門提出了一系列鼓勵措施。”中國信息通信研究院政策與經濟研究所所長辛勇飛説。

第五條規定，鼓勵生成式人工智慧技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智慧技術創新、數據資源建設、轉化應用、風險防範等方面開展協作。

第六條規定，鼓勵生成式人工智慧算法、框架、芯片及配套軟體平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智慧相關國際規則制定。推動生成式人工智慧基礎設施和公共訓練數據資源平臺建設。促進算力資源協同共享，提升算力資源利用效能。

劃定底線，推動生成式人工智慧向上向善

生成式人工智慧技術的快速發展，為經濟社會發展帶來新機遇的同時，也産生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題。對此，國家網信辦有關負責人説：“《辦法》堅持目標導向和問題導向，明確了促進生成式人工智慧技術發展的具體措施，規定生成式人工智慧服務的基本規範。”

《辦法》對生成式人工智慧服務提供者和使用者提出了要求：

——應當遵守法律、行政法規，尊重社會公德和倫理道德。

《辦法》在總則中就將該內容置於重要地位，明確規定，堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容。

——尊重知識産權和他人合法權益。

生成式人工智慧在個人信息的處理過程中，可能存在違法收集、使用個人信息等風險；生成式人工智慧的訓練數據中如包括他人已發表並享有著作權的作品，也可能給知識産權造成侵害。

為防止侵權的發生，《辦法》第四條規定，尊重知識産權、商業道德，保守商業秘密，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行為；尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。第七條規定“涉及知識産權的，不得侵害他人依法享有的知識産權”等內容。

——提高生成內容準確性和可靠性。

如何保障生成內容的真實性，既是産業界為進一步擴大生成式人工智慧商用範圍需要克服的技術難題，也是監管部門需要重點考慮的問題。對此，《辦法》規定：“基於服務類型特點，採取有效措施，提升生成式人工智慧服務的透明度，提高生成內容的準確性和可靠性。”

——完善處置措施。

除了規定相關實體義務，還需要使生成式人工智慧服務提供者完善處置措施，這樣才能讓“紙上”的規定落到實處。對此，《辦法》明確：“提供者發現違法內容的，應當及時採取停止生成、停止傳輸、消除等處置措施，採取模型優化訓練等措施進行整改，並向有關主管部門報告。”“提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公佈處理流程和反饋時限，及時受理、處理公眾投訴舉報並反饋處理結果。”

採取更精細化監管舉措

生成式人工智慧具有此前技術不具有的諸多特徵。針對其技術特點，《辦法》完善了與創新發展相適應的科學監管方式，促使監管部門採取更精細化的管理措施，實現技術創新與監管創新的同步演化、協同共振。

辛勇飛介紹，人工智慧算法具有“黑箱”特性，表現為行為不可控、決策機制難以解釋，給人工智慧監管帶來了一定困難。為此，《辦法》與《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》等現有規範一脈相承，延續了此前監管手段，同時明確了分類分級監管的原則，健全了我國人工智慧治理體系。一是明確了安全評估與算法備案要求。為有效應對算法“黑箱”問題，《辦法》明確，提供具有輿論屬性或者社會動員能力的生成式人工智慧服務的，應當按照國家有關規定開展安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、登出備案手續。二是明確了信息披露要求。《辦法》明確規定，有關主管部門依據職責對生成式人工智慧服務開展監督檢查，提供者應當依法予以配合，按要求對訓練數據來源、規模、類型、標注規則、算法機制機理等予以説明，並提供必要的技術、數據等支持和協助。

針對生成式人工智慧的其他技術特點，《辦法》也作出了規定。例如，第七條即充分考慮到訓練數據的海量性和異質性，規定生成式人工智慧服務提供者應當依法開展預訓練、優化訓練等訓練數據處理活動……採取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。

此外，《辦法》還針對相關産業特點，鼓勵其發展。《辦法》規定：“鼓勵生成式人工智慧技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系”，“鼓勵生成式人工智慧算法、框架、芯片及配套軟體平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智慧相關國際規則制定”等。（記者 金歆）

近日，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公佈《生成式人工智慧服務管理暫行辦法》（以下簡稱《辦法》），自今年8月15日起施行。

國家網信辦有關負責人表示，出臺《辦法》，旨在促進生成式人工智慧健康發展和規範應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

採取有效措施鼓勵生成式人工智慧創新發展

作為關鍵通用技術，生成式人工智慧對人民福祉、經濟發展、國家安全和戰略競爭均具有重要意義。國家網信辦有關負責人説，《辦法》提出國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智慧創新發展。

《辦法》第一條開宗明義將“促進生成式人工智慧健康發展和規範應用”作為目標，第三條進一步闡明：“國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智慧創新發展，對生成式人工智慧服務實行包容審慎和分類分級監管”。

“《辦法》立足於促進生成式人工智慧健康發展和規範應用，除了在總則中明確了國家堅持發展和安全並重、促進創新和依法治理相結合的原則外，在‘技術發展與治理’一章中專門提出了一系列鼓勵措施。”中國信息通信研究院政策與經濟研究所所長辛勇飛説。

第五條規定，鼓勵生成式人工智慧技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智慧技術創新、數據資源建設、轉化應用、風險防範等方面開展協作。

第六條規定，鼓勵生成式人工智慧算法、框架、芯片及配套軟體平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智慧相關國際規則制定。推動生成式人工智慧基礎設施和公共訓練數據資源平臺建設。促進算力資源協同共享，提升算力資源利用效能。

劃定底線，推動生成式人工智慧向上向善

生成式人工智慧技術的快速發展，為經濟社會發展帶來新機遇的同時，也産生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題。對此，國家網信辦有關負責人説：“《辦法》堅持目標導向和問題導向，明確了促進生成式人工智慧技術發展的具體措施，規定生成式人工智慧服務的基本規範。”

《辦法》對生成式人工智慧服務提供者和使用者提出了要求：

——應當遵守法律、行政法規，尊重社會公德和倫理道德。

《辦法》在總則中就將該內容置於重要地位，明確規定，堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容。

——尊重知識産權和他人合法權益。

生成式人工智慧在個人信息的處理過程中，可能存在違法收集、使用個人信息等風險；生成式人工智慧的訓練數據中如包括他人已發表並享有著作權的作品，也可能給知識産權造成侵害。

為防止侵權的發生，《辦法》第四條規定，尊重知識産權、商業道德，保守商業秘密，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行為；尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。第七條規定“涉及知識産權的，不得侵害他人依法享有的知識産權”等內容。

——提高生成內容準確性和可靠性。

如何保障生成內容的真實性，既是産業界為進一步擴大生成式人工智慧商用範圍需要克服的技術難題，也是監管部門需要重點考慮的問題。對此，《辦法》規定：“基於服務類型特點，採取有效措施，提升生成式人工智慧服務的透明度，提高生成內容的準確性和可靠性。”

——完善處置措施。

除了規定相關實體義務，還需要使生成式人工智慧服務提供者完善處置措施，這樣才能讓“紙上”的規定落到實處。對此，《辦法》明確：“提供者發現違法內容的，應當及時採取停止生成、停止傳輸、消除等處置措施，採取模型優化訓練等措施進行整改，並向有關主管部門報告。”“提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公佈處理流程和反饋時限，及時受理、處理公眾投訴舉報並反饋處理結果。”

採取更精細化監管舉措

生成式人工智慧具有此前技術不具有的諸多特徵。針對其技術特點，《辦法》完善了與創新發展相適應的科學監管方式，促使監管部門採取更精細化的管理措施，實現技術創新與監管創新的同步演化、協同共振。

辛勇飛介紹，人工智慧算法具有“黑箱”特性，表現為行為不可控、決策機制難以解釋，給人工智慧監管帶來了一定困難。為此，《辦法》與《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》等現有規範一脈相承，延續了此前監管手段，同時明確了分類分級監管的原則，健全了我國人工智慧治理體系。一是明確了安全評估與算法備案要求。為有效應對算法“黑箱”問題，《辦法》明確，提供具有輿論屬性或者社會動員能力的生成式人工智慧服務的，應當按照國家有關規定開展安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、登出備案手續。二是明確了信息披露要求。《辦法》明確規定，有關主管部門依據職責對生成式人工智慧服務開展監督檢查，提供者應當依法予以配合，按要求對訓練數據來源、規模、類型、標注規則、算法機制機理等予以説明，並提供必要的技術、數據等支持和協助。

針對生成式人工智慧的其他技術特點，《辦法》也作出了規定。例如，第七條即充分考慮到訓練數據的海量性和異質性，規定生成式人工智慧服務提供者應當依法開展預訓練、優化訓練等訓練數據處理活動……採取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。

此外，《辦法》還針對相關産業特點，鼓勵其發展。《辦法》規定：“鼓勵生成式人工智慧技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系”，“鼓勵生成式人工智慧算法、框架、芯片及配套軟體平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智慧相關國際規則制定”等。（記者 金歆）