工業機器人和工人一起工作時，如何保證機器人不誤傷工人？使用無人駕駛技術時，如何保證汽車不被駭客入侵，變成某些人作惡的工具？當機器人掌握了使用者無數隱私時，怎樣保證這些隱私不被竊取，或者不被製造商非法利用？

如今，我們已經無可避免地進入了與機器共存的時代，在我們無意識的情況下，機器正在替我們做出更多的決定。面對人工智慧引發的道德問題時，人們不禁思考：如果出現問題，誰負責？怎樣培養有“良知”的AI，從技術底層保證AI從根本上是“善良”的？

9月3日上午，由上海市歐美同學會和徐彙區委統戰部聯合舉辦的2022世界人工智慧大會分論壇“有良知的人工智慧技術”暨上海市歐美同學會人工智慧分會成立儀式在徐匯西岸舉行。

在中國科學院院士、市歐美同學會長裴鋼看來，之所以選擇“有良知的人工智慧”這一主題，是因為“如今，人工智慧領域充滿了無限可能，也充滿了無限挑戰，我們不僅要知道能夠做什麼，更要知道不要做什麼，這就是在當下討論倫理問題的意義。”

裴鋼表示，上海市歐美同學會成立了生物醫藥分會、積體電路分會，如今人工智慧分會成立後，將積極打造多元的交流平臺，加強會員與各級政府部門和機構的互動，促進人才、技術、專案的交流合作，實現共贏，為上海建設更具國際影響力的人工智慧高地貢獻智慧和力量。他還鼓勵廣大留學人員心繫“國家事”、肩扛“國家責”，加快突破關鍵核心技術，實現國家科技自立自強。

該場分論壇圍繞“有良知的人工智慧“進行討論，聚焦人工智慧技術帶來的機遇與風險，探尋如何發展符合人類法律、道德的人工智慧技術。與會的各位專家探討了關於人工智慧帶來的隱私、法律、公平、透明等問題。

“AI作惡不是因為它惡，因為它壞，而是因為它無知。”在聯影智慧醫療科技有限公司聯席CEO周翔看來，今天的人工智慧還沒有自知之明，它不知道自己所學習的東西的上下文和侷限性，不知道自己不知道的事情，不知道自己可能搞錯了。在醫療或自動駕駛領域，更具體、更實際的問題是“AI還不能承擔責任”。

目前，在醫療領域，政府監管很嚴格，還沒有公司申報自主決策的AI產品，政府的關注點在於產品的預期用途是什麼、是否具有安全性和有效性、是否有臨床資料支援“AI無害”。 周翔說：“AI學不全所有情況，所以不可能獨立做決定，醫生的把關是非常重要的。除了影像，醫生還掌握很多其他資訊，可以進行邏輯思考，並綜合其他相關資訊作出更科學的判斷，這種能力AI還達不到。但科學的發展需要時間，序幕剛剛拉開，精彩的還在後面。”

【來源：上觀新聞】

宣告：轉載此文是出於傳遞更多資訊之目的。若有來源標註錯誤或侵犯了您的合法權益，請作者持權屬證明與本網聯絡，我們將及時更正、刪除，謝謝。 郵箱地址：newmedia@xxcb。cn