EN
https://www.gov.cn/

我國發佈《治理原則》 發展負責任的人工智慧

2019-06-18 07:40 來源: 人民日報
字號:默認 超大 | 打印 |

技術釋放巨大潛力,風險問題廣受關注,我國發佈《治理原則》——
發展負責任的人工智慧

我國數據資源豐富,應用場景需求迫切,基礎研究、技術開發的水平顯著提升,人工智慧較快發展。與此同時,治理方面的問題也隨之出現。

國家新一代人工智慧治理專業委員會發佈《治理原則》,以“發展負責任的人工智慧”為主題,希望“負責任”貫穿人工智慧的研發和應用,促進技術的健康發展。

近年來,人工智慧迅速發展,作為引領新一代科技革命和産業變革的戰略性技術,人工智慧正深刻影響社會生活、改變世界,在引發巨大變革的同時,也帶來了諸多風險,人工智慧該如何健康發展?

6月17日,國家新一代人工智慧治理專業委員會發佈《新一代人工智慧治理原則——發展負責任的人工智慧》(以下簡稱《治理原則》),提出了人工智慧治理的框架和行動指南。這是我國促進新一代人工智慧健康發展,加強人工智慧法律、倫理、社會問題研究,積極推動人工智慧全球治理的一項重要成果。

治理問題引起廣泛關注,學界業界都在探索自律

“自2017年國家新一代人工智慧發展規劃發佈以來,我國人工智慧與各行業各領域的融合日益深入,展現出巨大的發展潛力。”清華大學蘇世民書院院長、國家新一代人工智慧治理專業委員會主任薛瀾説,人工智慧正在對政府管理經濟模式、社會結構、國家安全甚至國際關係産生深刻的影響,隨著技術的發展和應用,治理方面的問題不斷出現,引起了科技界、産業界和社會的廣泛關注。“很多國際組織、産業聯盟和知名企業都在研究制定人工智慧相關的準則,我國一些學術組織和産業聯盟在這方面非常活躍,業界也在積極探索行業自律。”薛瀾説。

為促進新一代人工智慧健康發展,國家新一代人工智慧治理專業委員會成立,統籌推進人工智慧治理的相關工作,起草這份《治理原則》就是委員會今年的重點工作之一。

起草過程中,委員會注重廣泛聽取各方面意見。“我們在網絡上公開動員公眾參與,形成了上百條重要建議。”薛瀾説,委員會還多次召開有關高校科研院所和企業代表參加的座談會,廣泛凝聚了學界、業界和社會的共識。

中國科學院自動化研究所研究員、國家新一代人工智慧治理專業委員會委員曾毅介紹,目前全球各國政府、非政府組織和産業界機構已發佈了超過40份人工智慧準則,這些準則往往是在發佈徵求意見稿之後聽取意見。“《治理原則》是在未發佈任何內容的情況下,收集從業人員甚至普通用戶對人工智慧的期待和願景,這是《治理原則》最主要的一個特點。”

“負責任”是主題,涵蓋人工智慧的基礎研發到應用

“發展負責任的人工智慧”成為《治理原則》的主題,在受訪專家看來,“負責任”涵蓋了人工智慧的基礎研發層到應用層,更應成為貫穿人工智慧發展的一條主線。薛瀾舉例説:“比如我們提出的‘和諧友好’等原則,強調無論是人工智慧提供的産品還是服務,都應該是負責任的、全面的,應以增進人類共同福祉為目標,應該符合人類的價值觀和倫理道德,避免誤用,禁止濫用、惡用。”

《治理原則》旨在更好協調人工智慧發展與治理的關係,確保人工智慧安全可控可靠,推動經濟、社會及生態可持續發展,共建人類命運共同體,這也構成了《治理原則》的4個主要亮點。

更好協調人工智慧發展與治理的關係,實現“雙輪驅動”。上海大學教授、國家新一代人工智慧治理專業委員會委員李仁涵説:“人工智慧是一個新生事物,發展還是第一位的。推動我國人工智慧的發展,也要在發展中解決問題。”他認為,人工智慧的健康發展,應該及時納入治理框架之中。科技部戰略規劃司副司長張旭表示,要平衡發展和治理的關係,對一些共性問題要加強標準和規範的制定,同時對於差異性的問題,要通過一些具體的規範把《治理原則》的內容更好納入進來,使示範推廣和産品應用更好結合,推動《治理原則》的落地。

確保人工智慧安全可控可靠,規避風險隱患。“人工智慧的發展仍然存在技術和社會潛在影響的雙重‘不確定性’,因此我們要對更高級的人工智慧潛在風險持續地開展研究和預判,確保人工智慧健康穩健發展。”曾毅指出,現在一些技術開發者沒有經過這方面的專業訓練,通過創新為社會帶來正面效應的同時,對相關的風險不重視或無意識,給社會帶來了較大的隱患,希望《治理原則》的發佈,推動“自適應”的治理,確保人工智慧朝著對全人類、全社會及自然生態有益的方向發展。“我們現在是把這些原則寫在紙上,最終希望能寫到每一個人工智慧開發人員和使用者的心裏。”他説。

推動經濟、社會及生態可持續發展,促進包容共享。曾毅認為,人工智慧作為一項使能技術,應與自然、社會和諧發展。“我國是一個發展中國家,發展人工智慧,更應該正視發展中的一些新情況、新問題。”他説,“人工智慧應積極促進綠色發展,符合環境友好、資源節約的要求,同時在發展中縮小地域差距,提升弱勢群體的適應性,努力消除數字鴻溝,這符合我國人工智慧發展的現實需要。”

共建人類命運共同體,提倡開放協作。“很多國家的發展階段不同,人工智慧可能也面臨著不同的應用場景,這就需要在交流溝通的基礎上開展合作研究和對話。”薛瀾表示,只有在充分尊重各國人工智慧治理原則和實踐的前提下,推動形成具有廣泛共識的國際人工智慧治理框架和標準規範,才能增進人類共同福祉。

人工智慧治理原則,今後還將根據變化進行調整

《中國新一代人工智慧發展報告2019》顯示,我國人工智慧論文發表量全球領先,企業數量等多項指標居全球第二位。在李仁涵看來,我國數據資源豐富,應用場景需求迫切,基礎研究、技術開發的水平都有顯著的提升,這些因素共同促進了我國人工智慧的較快發展。

曾毅認為,我國人工智慧技術快速發展的同時,人工智慧治理的能力和水平也在提升。“在數據隱私、安全治理方面,相關部門和全社會都付出了巨大的努力,這一點是有目共睹的。”他舉例説,“以《治理原則》提出的‘個人數據授權撤銷機制’來説,在全球來看也是非常領先的一個概念。這説明,我們一直非常重視這方面的工作,並且是以非常負責任的態度來推進的。”

“考慮到人工智慧發展的高度複雜性和不確定性,要按照漸進性的思路推進人工智慧的治理。”薛瀾表示,《治理原則》是一份框架性文件,對人工智慧健康發展主要發揮宏觀引導作用,今後還將根據形勢的變化和需要,不斷進行充實和調整。在薛瀾看來,人工智慧的發展過程中也面臨著一些基礎性的工作,立法就是其中之一。“我們發佈的《治理原則》,也為今後的立法工作提供了重要基礎。”他認為,人工智慧發展非常快,而立法的週期較長,因此也很難只用法律框架來支撐人工智慧的發展,“這就需要相關的原則準則、行業規範,包括從業者的自律,來協同推進其健康發展。”(記者 谷業凱)

【我要糾錯】責任編輯:李潤發
掃一掃在手機打開當前頁