訂閱
糾錯(cuò)
加入自媒體

AI驅(qū)動(dòng)的內(nèi)容檢測(cè)永遠(yuǎn)不會(huì)是完美的

來自監(jiān)管部門的壓力,要求更多地依賴自動(dòng)化來進(jìn)行內(nèi)容刪除,這有可能會(huì)削弱網(wǎng)絡(luò)空間的合法性。

由“民主與科技中心(Center for Democracy and Technology)”在布魯塞爾主辦的小組討論會(huì)中,我講述了AI驅(qū)動(dòng)的內(nèi)容檢測(cè)技術(shù)的功能和局限性。其他小組成員包括現(xiàn)在就職于標(biāo)普全球公司(S&P Global)的Armineh Nourbakhsh,她講述了在路透社協(xié)助開發(fā)的Tracer工具,然后在“民主與科技中心”就職的Emma Llansó講述了她最近參與合著的論文《混合信息?自動(dòng)社交媒體內(nèi)容分析的局限性》。來自歐盟委員會(huì)的Prabhat Agarwal提出了一個(gè)富有洞察力的決策者觀點(diǎn)。

各平臺(tái)和其他互聯(lián)網(wǎng)參與者使用自動(dòng)程序?qū)ζ湎到y(tǒng)上的非法內(nèi)容進(jìn)行處理,如仇恨言論或恐怖主義內(nèi)容。他們還使用相同的技術(shù)來要求其用戶強(qiáng)制執(zhí)行自己的自愿服務(wù)條款,以維護(hù)網(wǎng)絡(luò)環(huán)境的穩(wěn)定性和吸引力。最后,有一種中間類型的內(nèi)容,它不僅不吸引人,本身并不完全違法,但它是有害的,需要加以控制。虛假消息傳播活動(dòng)就屬于這一類。

來自政府的壓力要求使用自動(dòng)化系統(tǒng),這一情況日益增長

現(xiàn)在我們討論將這些內(nèi)容自動(dòng)刪除的原因不僅僅是在技術(shù)上的。政策制定者非常關(guān)注用于內(nèi)容檢測(cè)的系統(tǒng)的有效性,并且正在推動(dòng)平臺(tái)來做越來越多的工作。有時(shí)這會(huì)滲透到監(jiān)管的法規(guī)要求中。

最近歐盟宣布的防止網(wǎng)上恐怖主義內(nèi)容的試行條例就是一個(gè)很好的例子。人們非常關(guān)注于該條例,其允許歐盟成員國的國家主管機(jī)關(guān)來要求各個(gè)平臺(tái)在收到通知后一小時(shí)內(nèi)刪除特定的恐怖主義內(nèi)容。但更令人擔(dān)憂的是,該條例要求各平臺(tái)采取“主動(dòng)措施”,以便從一開始就防止恐怖主義內(nèi)容出現(xiàn)在平臺(tái)上。由于主動(dòng)措施是一些針對(duì)恐怖主義內(nèi)容的自動(dòng)屏蔽系統(tǒng),因此該試行條例明顯削弱了當(dāng)前電子商務(wù)指令的效力,以強(qiáng)制監(jiān)測(cè)系統(tǒng)擔(dān)負(fù)起監(jiān)督恐怖主義內(nèi)容。更糟糕的是,如果某一家公司收到過多的刪除指令,卻無法與監(jiān)管機(jī)構(gòu)所設(shè)計(jì)的改進(jìn)目標(biāo)達(dá)成一致,則該公司可能需要部署和維護(hù)監(jiān)管機(jī)構(gòu)所指定的某個(gè)自動(dòng)內(nèi)容刪除系統(tǒng)。

需要采取保護(hù)措施以使內(nèi)容刪除決定變得公平

內(nèi)容刪除決定必須有明確的標(biāo)準(zhǔn),這些標(biāo)準(zhǔn)必須透明,以便用戶對(duì)超出范圍和可接受范圍能形成預(yù)期。此外,需要對(duì)單個(gè)內(nèi)容刪除決定進(jìn)行解釋,這一決定應(yīng)說明觸發(fā)該決定的內(nèi)容的特定特征或方面。最后,因?yàn)闆]有一個(gè)系統(tǒng)是完美的,所以需要一個(gè)補(bǔ)救機(jī)制,以便在內(nèi)容被錯(cuò)誤刪除后能夠恢復(fù)。作為一個(gè)榜樣,請(qǐng)看看美國信貸業(yè)的做法,他們數(shù)代人將這些透明度、解釋說明和補(bǔ)救機(jī)制融入其工作中。

出于EmmaLlansó在她的論文中概述的原因,單純依靠自動(dòng)化系統(tǒng)進(jìn)行內(nèi)容刪除是錯(cuò)誤的。由于錯(cuò)誤率太高,所以始終需要人工審查以確保在內(nèi)容刪除之前充分考慮其內(nèi)容的上下文和含義。

這些自動(dòng)化系統(tǒng)具有積極且有益的作用

首先,這些系統(tǒng)可用于非常具體和有價(jià)值的目的。Armineh說道,由路透社開發(fā)的Tracer系統(tǒng)可掃描Twitter以發(fā)現(xiàn)一些突發(fā)新聞故事,并將其傳遞給路透社的編輯和記者進(jìn)行審查。該系統(tǒng)可檢測(cè)到大多數(shù)(但并非全部)的虛假謠言和故意誤導(dǎo)內(nèi)容,并只傳遞這些極有可能具有新聞價(jià)值的內(nèi)容,從而使記者能夠更有效地工作。然而,即使在路透社,也需要采取保護(hù)措施,以避免例如特定來源或用戶的信息被分析。

第二個(gè)重要用途是篩選可能需要?jiǎng)h除的內(nèi)容。當(dāng)系統(tǒng)在現(xiàn)代社交網(wǎng)絡(luò)的范圍內(nèi)運(yùn)行時(shí),對(duì)所有潛在有害內(nèi)容進(jìn)行人工審查是根本不可能的。自動(dòng)化系統(tǒng)可以提供一個(gè)可管理的問題內(nèi)容列表,以供人工審閱者來確定是否刪除。

最后,自動(dòng)系統(tǒng)可以非常有效地防止上傳那些先前已被識(shí)別并刪除的內(nèi)容。該模型可有效地應(yīng)用于兒童色情圖片,并通過一個(gè)自動(dòng)內(nèi)容識(shí)別系統(tǒng)來防止未經(jīng)授權(quán)來上傳受版權(quán)保護(hù)的內(nèi)容。

前進(jìn)的道路上我們可采取公私合作伙伴關(guān)系

對(duì)于自動(dòng)內(nèi)容刪除的擔(dān)憂并不意味著會(huì)削弱從在線系統(tǒng)中刪除危險(xiǎn)內(nèi)容的一般性主張,鑒于恐怖主義的嚴(yán)重挑戰(zhàn),刪除危險(xiǎn)內(nèi)容是一個(gè)極為緊迫的問題。但是,我們必須著眼未來以及我們的迫切需要,并應(yīng)謹(jǐn)慎建立保障措施,以防止在極為不同的政治環(huán)境中濫用任何新的監(jiān)管權(quán)力,而在這種情況下,風(fēng)險(xiǎn)可能是來自政府機(jī)構(gòu)的過度干預(yù)。

在前進(jìn)的道路上我們要認(rèn)識(shí)到,所面對(duì)的問題要比技術(shù)更嚴(yán)重?植乐髁x事件來自技術(shù)行業(yè)沒有形成且不能自行改善的基礎(chǔ)社會(huì)、政治和經(jīng)濟(jì)過程中。但是,他們的體系不應(yīng)該被用來使問題變得更糟,他們的內(nèi)容刪除工作將從公私合作伙伴關(guān)系中受益,這種公私合作關(guān)系依賴于政府提供信息和引薦以及召集行業(yè)參與者來制定和實(shí)施行業(yè)最佳實(shí)踐。

然而,一個(gè)重大的危險(xiǎn)是政策制定者似乎愿意忽視錯(cuò)誤的實(shí)際成本,很明顯,他們認(rèn)為,只要能成功地刪除危險(xiǎn)內(nèi)容,犯錯(cuò)誤就是值得的。畢竟,他們似乎認(rèn)為,各平臺(tái)總能恢復(fù)那些因錯(cuò)誤而被刪除的內(nèi)容。

這種觀點(diǎn)忽視了許多在線交流內(nèi)容的時(shí)效性,在這種情況下,花費(fèi)幾周甚至幾天后所恢復(fù)的內(nèi)容是毫無意義的。而且,所涉及的錯(cuò)誤范圍很容易被低估。數(shù)十億次使用中的一個(gè)很小的錯(cuò)誤率可能意味著不是數(shù)百,不是數(shù)千,而是數(shù)億次的錯(cuò)誤。綜合起來,隨著時(shí)間的推移,這個(gè)錯(cuò)誤的量級(jí)將損害這些體系的可信性和合法性,使其失去多種合法政治話語權(quán)的好處。

聲明: 本文系OFweek根據(jù)授權(quán)轉(zhuǎn)載自其它媒體或授權(quán)刊載,目的在于信息傳遞,并不代表本站贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),如有新聞稿件和圖片作品的內(nèi)容、版權(quán)以及其它問題的,請(qǐng)聯(lián)系我們。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字

您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評(píng)論

暫無評(píng)論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號(hào)
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯(cuò)
x
*文字標(biāo)題:
*糾錯(cuò)內(nèi)容:
聯(lián)系郵箱:
*驗(yàn) 證 碼:

粵公網(wǎng)安備 44030502002758號(hào)