Facebook的人工智能在一段有關(guān)黑人的視頻上誤貼“靈長類”標(biāo)簽。

據(jù)《紐約時報》報道，F(xiàn)acebook用戶稱其最近觀看了一個來自英國小報的黑人視頻，然而卻收到了一個自動提示，詢問他們是否愿意繼續(xù)觀看關(guān)于靈長類動物的視頻。該公司立即調(diào)查并禁用推送該消息的AI功能。

這段視頻拍攝于2020年6月27日，來源于《每日郵報》（The Daily Mail），內(nèi)容涉及黑人男子與白人平民以及警察發(fā)生爭執(zhí)的片段，與靈長類動物沒有任何關(guān)系。

曾在Facebook擔(dān)任內(nèi)容設(shè)計經(jīng)理的Darci Groves說，一個朋友最近給她發(fā)了一張自動提醒的截圖。然后，她把這篇文章發(fā)布到一個Facebook員工的產(chǎn)品反饋論壇上。

作為回應(yīng)，該公司的視頻服務(wù)Facebook Watch的一名產(chǎn)品經(jīng)理稱這是“不可接受的”。周五，F(xiàn)acebook為其所謂的“不可接受的錯誤”道歉，并表示正在調(diào)查推薦功能，以“防類似事件再次發(fā)生”。

“正如我們所說，雖然我們對人工智能進(jìn)行了改進(jìn)，但我們知道它并不完美，我們還需要一直改善。我們向任何看到這些無禮推薦消息的人道歉�！�

這一事件只是人工智能工具顯示性別或種族偏見的最新例子。谷歌、亞馬遜和其他科技公司多年來一直因其人工智能系統(tǒng)存在偏見而受到審查，尤其是種族問題。研究表明，面部識別技術(shù)對有色人種有偏見，識別有色人種更困難，導(dǎo)致黑人在使用電腦的過程中受到歧視甚至因電腦錯誤被捕。

2015年，一名黑人軟件開發(fā)人員在Twitter上說，谷歌的照片服務(wù)（Google Photos）把他和一個黑人朋友的照片打上了“大猩猩”的標(biāo)簽，這讓谷歌感到非常尷尬。谷歌宣稱自己“感到震驚和由衷的歉意”。一名相關(guān)的工程師表示，谷歌正在“研究更長期的解決方案”。

兩年多之后，谷歌給出的其中一項修復(fù)措施就是將大猩猩和其他靈長類動物的標(biāo)簽從該服務(wù)的詞庫中刪除。這一尷尬的變通方案表明，谷歌和其他科技公司在推進(jìn)圖像識別技術(shù)方面仍舊面臨著諸多困難，盡管這些公司希望能夠在自動駕駛汽車、個人助理和其他產(chǎn)品上使用這些技術(shù)。

這件事爆出后，Google 承認(rèn)，在圖片識別標(biāo)簽中，他們確實刪掉了“大猩猩”，給出的解釋是：“圖片標(biāo)簽技術(shù)仍處于早期，很不幸，它離完美還差得遠(yuǎn)。”

去年，臉書表示正在研究其使用人工智能（包括Instagram）的算法是否存在種族偏見。為什么人臉識別系統(tǒng)總是認(rèn)錯黑人？技術(shù)不懂什么是種族偏見，人臉識別卻一再翻車。

2018 年，美國《紐約時報》發(fā)表過一篇文章，引用美國麻省理工學(xué)院的最新研究論文，證實在不同種族面前，人臉識別的準(zhǔn)確率存在巨大差異。紐約時報刊文研究員創(chuàng)建了一個包含 1270 張面孔的數(shù)據(jù)集，包括以深膚色為主的 3 個非洲國家，以及淺膚色的 3 個北歐國家，并找來三款主流的人臉識別系統(tǒng)進(jìn)行測試。數(shù)據(jù)集中的一部分結(jié)果顯示：白人的識別錯誤率最低，僅為 1％，膚色越暗，錯誤率越高。這其中，又以黑人女性的錯誤率最高，達(dá)到 35％。

現(xiàn)實中，深膚色人的面部特性確實比較難找，尤其在暗光環(huán)境下，光是檢測到臉就很難了，更別提捕捉面部特征，這對于算法確實是一大挑戰(zhàn)。在樣本數(shù)據(jù)不足的情況下，人臉識別算法一般的做法，是根據(jù)特定的面部特征，比如眼距、膚色等，開啟預(yù)測模式，但算法預(yù)測所依賴的面部特征，本身就不準(zhǔn)確，勢必會導(dǎo)致識別失誤，比如把深色皮膚的女性識別成男性，或者把良民識別成罪犯。

其實，AI其實并不存在種族偏見，如果深膚色人臉的樣本足夠多，AI算法獲得足夠多的數(shù)據(jù)來訓(xùn)練，那么深膚色人種的人臉識別問題自然就迎刃而解了，說到底還是AI在深膚色人種之間應(yīng)用較少，缺乏足夠多的數(shù)據(jù)訓(xùn)練，歸根結(jié)底，有偏見的一直是人。

維科杯·OFweek（第六屆）2021物聯(lián)網(wǎng)行業(yè)年度評選：https：／／www．ofweek．com／award／2021／AIoT／iot／

維科杯·OFweek（第六屆）2021人工智能行業(yè)年度評選：https：／／www．ofweek．com／award／2021／AIoT／ai／