錯誤的推理:人工智能也會受騙
在智能識別的過程當(dāng)中,即便是性能最為優(yōu)越的AI也會因?yàn)橄到y(tǒng)缺陷而陷入迷局。著名學(xué)者、暢銷書Us and them : The Science of Identity的作者大衛(wèi)·貝雷比就表示,人工智能是可以被“欺騙”的,因?yàn)樗鼈兊膬?nèi)置推理機(jī)制都是呈模型化狀態(tài)分布的。所以從這個角度來說,只要符合既定模型中的驗(yàn)證條件,一些原本不符合要求的樣本也可能會被系統(tǒng)讀取和識別。這就是說,在智能化推理的過程當(dāng)中,人工智能也會出現(xiàn)“失誤”,而如何將這些失誤降到最低,就需要研究人員通過多種渠道來改善識別系統(tǒng)了。
關(guān)于人工智能在推理方面的錯誤,一個由美國高等學(xué)府和社會科研機(jī)構(gòu)組成的團(tuán)隊(duì)做了一個非常有趣的實(shí)驗(yàn)。工作人員先按照一定的標(biāo)準(zhǔn)開發(fā)出了一套可以識別圖像文字的神經(jīng)網(wǎng)絡(luò)模型,然后他們將經(jīng)過特殊化處理的圖片錄入到這個模型當(dāng)中去,命令人工智能系統(tǒng)對該圖片進(jìn)行識別。如圖所示,以人類的肉眼來看,這兩張圖片應(yīng)該是不存在特征差異的。
但是對于這一套配備了特殊神經(jīng)網(wǎng)絡(luò)的人工智能來說,最終得到的結(jié)果卻是令人大跌眼鏡的:在本次測試當(dāng)中,AI系統(tǒng)將左邊的圖片認(rèn)定為“狗”,而右邊的圖像則被判定為“鴕鳥”。實(shí)際上,這兩張圖片之間僅僅是存在細(xì)微的像素差異,而鏡像本體和所使用的拍攝器材,都是完全一致的。這就是說,在本次實(shí)驗(yàn)當(dāng)中,圖片像素的差異是誤導(dǎo)人工智能進(jìn)行錯誤推理的直接原因。
與此類似,美國懷俄明大學(xué)計(jì)算機(jī)系助理教授杰夫·克魯聯(lián)合另外兩名研究者——阮昂和杰森·約辛斯基,共同論著了一篇關(guān)于人工智能的文章。在這篇名為“人工智能其實(shí)很好騙”的文章當(dāng)中,克魯舉例表示,他們共同研發(fā)了一套用于識別圖像的智能系統(tǒng)。當(dāng)研究者將一張呈條狀波浪形分布、主體為黃綠兩種顏色的圖片交給這套系統(tǒng)識別時,他們發(fā)現(xiàn),這套識別系統(tǒng)用99.6%的確定性,將這張“毫無主題的水彩畫”認(rèn)作了“海星”;而在面對另一張布滿雜亂混合斑點(diǎn)的圖片時,該AI系統(tǒng)再一次犯錯——它將圖示當(dāng)中的主體推論為“豹”,并對真實(shí)性做出了接近于100%的保證。
很顯然,“小狗實(shí)驗(yàn)”和克魯主導(dǎo)的圖像識別實(shí)驗(yàn),都向人們反映出了這樣一個現(xiàn)象——人工智能在進(jìn)行分析推理的過程當(dāng)中,也會受到來自模型缺陷的干擾。比如在克魯?shù)膶?shí)驗(yàn)當(dāng)中,研究人員設(shè)定的識別模型,在樣本定義上必然是存在不足的。對此,另一位人工智能學(xué)者、來自普林斯頓大學(xué)的索倫·巴洛卡斯就認(rèn)為,克魯?shù)哪P彤?dāng)中沒有設(shè)定“生命”和“非生命”的限定,這就使得人工智能無法對一個樣本進(jìn)行有效區(qū)分。
圖 克魯實(shí)驗(yàn):系統(tǒng)將左圖識別為海星,右圖識別為豹
巴洛卡斯解釋說:“就以那張布滿雜亂斑點(diǎn)的圖像來說,假如克魯團(tuán)隊(duì)關(guān)于識別模型的設(shè)定限定了‘很多斑點(diǎn)=豹’這一規(guī)則,那么當(dāng)人們將這張圖片錄入到該模型當(dāng)中時,這個識別系統(tǒng)就會因?yàn)閺膱D片上檢測出很多斑點(diǎn),進(jìn)而做出‘此圖示為豹’的結(jié)論!
可以看到,人工智能的邏輯推理是帶有強(qiáng)烈的程式化意味的。由于既定模型的局限性,即便是性能最為優(yōu)越的AI系統(tǒng)也會在判定時出現(xiàn)偏差。而在生活當(dāng)中,這一種推理機(jī)制帶來的缺陷,也很可能會為人們帶來極大的不便或者其他隱患。比如說在反入侵智能識別系統(tǒng)當(dāng)中,一些不懷好意的人就可以通過識別模型的漏洞,給自己偽裝上適配于該模型的裝置,然后就可以順利通過智能機(jī)關(guān)的檢驗(yàn)。所以說,如何利用規(guī)則,回避類似漏洞就成了研究者們需要重點(diǎn)關(guān)注的話題。
顯然,在巴洛卡斯的話語當(dāng)中,我們已經(jīng)能剝離出部分解決人工智能因何被騙的誘導(dǎo)因素了。按照他的說法,AI系統(tǒng)之所以能針對未知事物進(jìn)行判定推論,內(nèi)置在這一系統(tǒng)中的神經(jīng)網(wǎng)絡(luò)起到了關(guān)鍵性作用。而一旦這個網(wǎng)絡(luò)出現(xiàn)部分可被利用的漏洞,那么當(dāng)有“非正確的適應(yīng)性樣本”進(jìn)入檢驗(yàn)階段時,這個錯誤的樣本就會被接受并解讀出來。
比如說對于某一個神經(jīng)識別網(wǎng)絡(luò),我們設(shè)定以下規(guī)則:
(1)穿紅色衣服的學(xué)生每人得到1個蘋果
(2)穿黃色衣服的學(xué)生每人得到2個蘋果
(3)穿非紅色衣服的學(xué)生不分配蘋果
很顯然,第三條規(guī)則的介入,對整個評判體系產(chǎn)生了錯誤的影響。對于1名穿黃色衣服的同學(xué)來說,如果按照第二條規(guī)則來執(zhí)行分配,他就會得到2個蘋果;如果按照第三條規(guī)則來界定,他就被排除在了分配原則之外。而在一個神經(jīng)網(wǎng)絡(luò)中,類似沒有受到加權(quán)限制的規(guī)則,很可能會同時執(zhí)行,那么使用這一種網(wǎng)絡(luò)模型來分配蘋果,必然會出現(xiàn)一部分黃衣服學(xué)生持2個蘋果,另一部分黃衣服學(xué)生沒有分到蘋果的混亂現(xiàn)象。
所以說,在一個模型體系中,互相之間存在矛盾的因素,是會對這個模型帶來極大的負(fù)面效果的。針對這種情況,其實(shí)只要再加上一條“假如規(guī)則之間發(fā)生沖突,以規(guī)則(1)為準(zhǔn)”,這一切就迎刃而解了。
另外,在上述幾條規(guī)則當(dāng)中,同樣也存在沒有針對樣本進(jìn)行深入限定的問題。比如有1名穿紅衣服的玩偶混雜在了待分配者中,那么AI系統(tǒng)也會按照既定條例,給這個玩偶發(fā)放1個蘋果。那么針對這一漏洞,設(shè)計(jì)者需要做的其實(shí)和之前一樣,那就是增設(shè)規(guī)則選項(xiàng),將受分配者限定為“能夠呼吸的人類”。
所以說,人工智能受到欺騙,實(shí)際上更多因素是受制于內(nèi)置模型的缺陷。由于對樣本規(guī)則的限定缺漏,人工智能在推理的過程中也會受到各種誤導(dǎo)。由于識別系統(tǒng)的模式化,AI系統(tǒng)對于樣本的判定都是通過模型當(dāng)中的設(shè)定點(diǎn)來尋求對應(yīng)關(guān)系的,在這種條件下,部分不符合要求的結(jié)果,或許也能因?yàn)殛P(guān)鍵點(diǎn)的契合而順利通過。如果要解決這一問題,設(shè)計(jì)者就需要研發(fā)出更為精準(zhǔn)、驗(yàn)證節(jié)點(diǎn)更多,或者是研發(fā)出以“線性”“面性”,甚至是“立體性”的驗(yàn)證規(guī)則,而這就需要研究者進(jìn)行更為深入的研究。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會
-
10月31日立即下載>> 【限時免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報(bào)名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報(bào)名中>> OFweek2024中國智造CIO在線峰會
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價拍賣
- 5 具身智能火了,但規(guī)模落地還需時間
- 6 國產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 7 三次錯失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市