奧推網

選單
科技

太無奈!微軟停售 AI 情緒識別等技術,直言:“法律跟不上 AI 的發展”

整理 | 鄭麗媛

出品 | CSDN(ID:CSDNnews)

上週,谷歌 AI 被曝覺醒的傳聞在業內引起巨大討論,儘管各大 AI 專家事後均出面表示不可能,但一時之間還是吸引了無數人對於 AI 領域的關注。

這不,今天微軟又帶著 AI 登上國外科技網站的頭條:為了更負責地構建 AI 系統,微軟宣佈將逐步停止其基於人臉影象識別情緒、性別和年齡等 AI 面部分析工具的公開使用。

“法律落後於 AI 的發展”

在微軟昨日釋出的官方博文中,微軟首席 AI 責任官 Natasha Crampton 宣佈了一份 27 頁的微軟 Responsible AI 標準:“AI 越來越成為我們生活的一部分,然而我們的法律卻落後了,它們沒趕上 AI 的獨特風險或社會需求。因此我們意識到需要採取行動,努力在設計上對 AI 系統負責。”

據 Natasha Crampton 介紹,本次 Responsible AI 標準主要強調將“問責制”等原則分解為其關鍵推動因素,以確保是誰在使用其服務,並對這些工具的應用位置進行更大力度的人工監督。

基於這一目標,微軟提出了兩項保障措施:

即日起,新客戶需要申請使用人臉識別操作。

自 6 月 21 日起,所有新客戶需申請使用 Azure Face API、Computer Vision 和 Video Indexer 中的人臉識別操作,而現有客戶有一年的時間可根據他們其用例申請獲取繼續使用面部識別服務的批准。不過需要注意的是,如果截止 2023 年 6 月 30 日現有客戶申請仍為獲得批准,未來將不能再繼續使用面部識別功能。

“透過引入有限訪問許可權,我們為面部識別的使用和部署增加了一層額外的審查,確保這些服務的使用符合微軟的 Responsible AI 標準,有助於終端使用者的高價值和社會效益。”

停止用於推斷情緒狀態和身份屬性的面部分析功能。

微軟在博文中表示,面部檢測功能(如檢測是否模糊、曝光、有無戴眼鏡、頭部姿勢等)未來可繼續普遍可用,但一些用於推斷情緒狀態和身份屬性的面部分析功能將被停用。

“我們與內外部的研究人員合作,瞭解這項技術的侷限性和潛在優勢,並進行權衡取捨。”微軟指出,情緒感知不僅涉及隱私問題,也存在缺陷,部分預測敏感屬性功能的 API 訪問也潛藏了多種被濫用的可能。

為了降低風險,微軟決定不再支援 Face API 中的通用系統(該系統用於推斷情緒、性別、年齡、髮型以及是否微笑和化妝等):從 2022 年 6 月 21 日開始,新客戶將無法再檢測這些屬性,現有客戶的使用許可權也僅持續到 2023 年 6 月 30 日。

不過微軟也補充道,雖然宣佈將停止向公眾繼續提供這些功能,但它旗下的一個產品還將繼續使用:Seeing AI,一個透過機器視覺為殘障人士提供技術支援的軟體。

除此之外,微軟也對其自定義神經語音功能設定了類似限制和稽核。本質上來說,這項功能可支援使用者根據真人錄音建立 AI 語音,但“很容易想象它將如何被用來冒充演講者並欺騙聽眾”。

用 AI 識別情緒不靠譜?

實際上,早在微軟做出這一決定之前,許多業內專家就一直在控訴這類 AI 技術,尤其是前幾年微軟、亞馬遜、IBM 和谷歌等科技公司扎堆推出“情感識別演算法”時。

具體來說,這類演算法會根據對人臉的面部分析推斷目標物件的感受,例如皺眉或噘嘴即代表生氣,眼睛睜大或眉毛上揚即意味著害怕等等——聽起來,這個邏輯是否有些牽強了?

因而,五位情感科學領域的傑出專家受美國心理科學委員會所託,耗時兩年、審查了 1000 多項研究之後,終於在 2019 年得出結論:情緒可以透過許多方式來表達,不能僅憑一組簡單的面部動作就推斷出這個人的感受。

舉個例子:根據當時公開的資料顯示,人們在生氣時皺眉的機率不到 30%,所以皺眉只是表達憤怒的方式之一。這也表示超過 70% 的人在生氣時不會皺眉,反過來說即他們不生氣時也會皺眉。

美國東北大學心理學教授 Lisa Feldman Barrett 對這一結果表示:“這意味著使用 AI 以這種方式評估人們情緒的公司會誤導消費者。你會希望將其應用在法庭、招聘、醫療診斷或機場等各個場景中時,演算法只有不到 30% 的準確率?”

儘管當時微軟並未對此作出明確迴應,但兩年後的如今,Natasha Crampton 終於在博文中承認道:“公司內外的專家均強調,在‘情緒’的定義上缺乏科學共識,在如何跨用例、地區和人口統計資料進行推斷方面存在挑戰,圍繞這類功能的隱私擔憂也在加劇。因此我們決定分析所有聲稱可以推斷人們情緒狀態的 AI 系統。”

那麼,你如何看待透過 AI 識別人臉情緒及各類身份屬性這一操作?

參考連結:

https://www。theverge。com/2022/6/21/23177016/microsoft-retires-emotion-recognition-azure-ai-tool-api

https://blogs。microsoft。com/on-the-issues/2022/06/21/microsofts-framework-for-building-ai-systems-responsibly/