21世紀經濟報道 記者郭美婷、諸未靜 烏鎮報道

早在2016年，AlphaGo就先後擊敗職業九段圍棋高手李世石和排名世界第一世界冠軍柯潔。近幾年來，機器學習在無人駕駛、醫療診斷，甚至在寫作、畫畫、作詩方面也都取得相當的進展。

以人工智慧為代表的新一輪科技改變和產業變革正在重構全球創新版圖，重塑全球經濟結構，這既為世界各國創造了更加廣闊的發展機遇，也帶來了安全倫理時等方面的風險挑戰。

11月10日，2022年世界網際網路大會最後一場分論壇——“人工智慧與數字倫理”在浙江烏鎮正式召開。本次論壇以“人工智慧的產業方向與倫理取向”為主題，聚焦人工智慧的技術、應用和產業發展過程當中的安全風險治理與數字倫理建設。

人工智慧的治理已迫在眉睫，如何促進安全、可信、可控、可靠和可擴充套件的人工智慧技術研發？如何推動人工智慧倫理體系建設和國際共識的達成？如何確保人工智慧始終朝著公平、公正和有益於全人類的方向健康發展？這些問題的解答仍有賴於進一步的探索和追尋。

“遠慮”已經成為“近憂”

1942年，在人工智慧誕生之前，美國科幻小說家艾薩克·阿西莫夫在其小說中最早提出了機器人發展中可能存在倫理風險，並且預設了規避風險的方法，也即廣為人知的“機器人三定律”。

這樣的警示建立在機器智力已然超過人類的前提下。然而，發展至今，人工智慧對比人類智慧仍然如同“龜兔賽跑”中遠遠落後的烏龜。

清華大學人工智慧研究院名譽院長、中國科學院院士張鈸在論壇上指出，目前人工智慧研究處於探索階段，進展緩慢且存在多個難以解決的問題。製造超人類的機器並非易事，能否透過通用人工智慧達到超智慧的目標更一直存在爭議。

但人工智慧對倫理和傳統規範的衝擊卻提前出現，“遠慮”已經成為“近憂”。“本世紀初，基於大資料的深度學習在人工智慧中崛起時，人們開始深刻地感受到人工智慧的倫理風險就在眼前，治理迫於眉睫。”張鈸說。

這一方面出於現階段人工智慧技術的固有缺陷。螞蟻集團首席技術官倪行軍指出，新一代人工智慧由資料驅動，依賴的是機器的自我學習，而非人為資訊和知識的輸入，這就可能帶來系統的不夠魯棒、不可解釋、不夠可靠等問題。在醫療、製造、金融等與社會生活息息相關的特殊領域，機器學習模型做出錯誤預測的後果往往是難以接受的。

另一方面，上述缺陷也給人工智慧技術的惡意濫用帶來了機會。例如，人們惡意利用演算法的脆弱性，對演算法進行攻擊，導致基於該演算法的人工智慧系統失效，甚至做出相反的破壞行為；利用深度學習技術造假，製造出大量逼真的假新聞、假影片、假演說等，擾亂社會秩序，誣陷無辜的人。

張鈸認為，無論是無意、誤意還是有意濫用人工智慧技術都需治理，只是兩者的治理性質不同。前者透過制定相應準則，對人工智慧研究開發和使用過程進行嚴格的科學評估和全程監管，並規定出現問題後可能採取的補救措施等；而後者則要靠法律約束和社會輿論的監督，帶有強制治理的意味。

“從根本來講，人工智慧的研究、開發都需以人為本，從公正公平的倫理原則出發做負責任的人工智慧，為此，我們需要努力去建立可解釋的魯棒人工智慧理論，在此基礎上才有可能開發出安全、可信、可控、可靠和可擴充套件的人工智慧技術，最終推動人工智慧的公平、公正和有益於全人類的應用和發展。這就是我們發展第三代人工智慧的思路。”張鈸倡導全世界不同領域的人員參與人工智慧的研究和治理，透過全球範圍的合作，共同制定出一套符合全人類利益的標準。

規則

與技術的“組合拳”

人工智慧治理依賴於規則與技術配合打出一套“組合拳”。在規則方面，數字倫理、人工智慧倫理體系的構建，是除法律法規之外的重要抓手。

全國人大憲法和法律委員會副主任委員江必新將倫理建設的必要性歸納為“五個源於”，分別為數字技術和人工智慧的二重性，數字網路的無邊界性、跨國性、專業性和非透明性，法律規範的侷限性、倫理道德對於人性人類的不可或缺性，以及網路安全對於發展，對於人類道德的依賴性。

在他看來，構建倫理體系應首先從人類的基本共識開始，求善、求真、求美，端正理念，全主體參與，將演算法、資料等全要素納入，進行全鏈條、全週期的規範設計，並以行業標準、技術指南、政治引領、技術破解等全工具保障。

目前，全球範圍內已有相關實踐。2021年11月，聯合國教科文組織釋出了《人工智慧倫理倡議書》，從聯合國組織角度，為人工智慧治理提供了一個具有國際法性質的基礎性檔案。

世界工程組織聯合會前任主席、中國新一代人工智慧發展戰略研究院執行院長龔克指出，這是迄今為止，聯合國系統釋出的唯一一份關於人工智慧的國際準則性檔案。該倡議書以國際法為基礎，全球廣泛參與制定，體現了非常重要的全球共識，首先從倫理上為整個人工智慧治理奠定基石。

企業的自我約束同樣發揮著至關重要的作用。例如今年，阿里巴巴集團也提出了科技倫理治理六項基本原則：堅持以人為本的價值導向，踐行隱私保護，安全可靠，普惠正直、科技原則，且藉助可信、可靠和開放共治的科技方法。

而在技術方面，之江實驗室主任、中國人工智慧產業聯盟副理事長朱世強提出“以技術的標準框定未來的方向”。同時，圍繞新一代人工智慧，透過實施技術、知識的雙輪驅動，改變其不透明、黑箱的現狀；開發量子時代的密碼技術、資料隱私平臺等一系列工具遏制不良應用；突破關鍵技術保障網路安全，研製具備可演進的基礎構架，靈活可定義的全維可定義網路等。

此外，全球IPv6論壇主席拉提夫·拉蒂德還關注到了人工智慧帶來的失業率和財富分配不均的問題，他建議反思改善教育體系，以讓人們挑戰更多的任務，以及進行更有創新性的工作。

更多內容請下載21財經APP