訂閱
糾錯(cuò)
加入自媒體

如果人工智能擁有了自主意識(shí),科學(xué)家怎樣才能發(fā)現(xiàn)?

長期以來,科幻小說中一直存在人工智能產(chǎn)生意識(shí)的想法,回想1968年的電影《2001:太空漫游》中從超級(jí)計(jì)算機(jī)變成惡棍的HAL 9000。隨著人工智能的飛速發(fā)展,這種可能性正變得越來越不那么離奇,甚至得到了人工智能領(lǐng)軍人物的認(rèn)可。

去年,聊天機(jī)器人ChatGPT背后的公司OpenAI首席科學(xué)家伊利亞·蘇茨凱弗(Ilya Sutskever)發(fā)推文稱,一些最先進(jìn)的人工智能網(wǎng)絡(luò)可能會(huì) “略有意識(shí)”

許多研究人員表示,人工智能系統(tǒng)尚未達(dá)到有意識(shí)的地步。但人工智能的進(jìn)化速度讓他們陷入了沉思:我們?nèi)绾沃廊斯ぶ悄苁欠癞a(chǎn)生意識(shí)?

為了回答這個(gè)問題,一個(gè)由19位神經(jīng)科學(xué)家、哲學(xué)家和計(jì)算機(jī)科學(xué)家組成的團(tuán)隊(duì)提出了一份標(biāo)準(zhǔn)清單,如果符合這些標(biāo)準(zhǔn),就表明一個(gè)系統(tǒng)有很大可能是有意識(shí)的。他們于本周早些時(shí)候在arXiv預(yù)印版庫中發(fā)布了臨時(shí)指南,該指南尚未經(jīng)過同行評(píng)審。

合著者之一、位于加利福尼亞州舊金山的AI安全中心的哲學(xué)家羅伯特·朗(Robert Long)表示,他們進(jìn)行這項(xiàng)工作是因?yàn)?ldquo;似乎確實(shí)缺乏對(duì)人工智能意識(shí)進(jìn)行詳細(xì)、以經(jīng)驗(yàn)為基礎(chǔ)、深思熟慮的討論”。

該研究團(tuán)隊(duì)表示,無法識(shí)別人工智能系統(tǒng)是否有意識(shí),這可能會(huì)產(chǎn)生重大的道德影響。該研究的神經(jīng)科學(xué)家和合著者梅根·彼得斯(Megan Peters)表示,如果某個(gè)東西被貼上了 “有意識(shí) ”的標(biāo)簽,“那一定會(huì)極大地改變我們作為人類對(duì)待它的方式。”

朗(Long) 補(bǔ)充說,據(jù)他所知,構(gòu)建先進(jìn)人工智能系統(tǒng)的公司并沒有付出足夠的努力來評(píng)估這些模型的意識(shí),并制定相應(yīng)的計(jì)劃。他說:“盡管聽取了一些領(lǐng)先實(shí)驗(yàn)室負(fù)責(zé)人的發(fā)言,他們確實(shí)表示人工智能意識(shí)或者人工智能知覺是值得思考的問題,只是我認(rèn)為還不夠。”

《自然》雜志聯(lián)系了推動(dòng)人工智能發(fā)展的主要兩家科技公司——微軟和谷歌。微軟的一位發(fā)言人稱,該公司開發(fā)人工智能的核心是以負(fù)責(zé)任的方式協(xié)助人類提高生產(chǎn)力,而不是復(fù)制人類智能。

該發(fā)言人表示,自從推出GPT-4(ChatGPT公開發(fā)布的最新版本)以來,可以明確的是,“我們?cè)谔剿魅绾螌?shí)現(xiàn)人工智能的全部潛力以造福整個(gè)社會(huì),這需要新的方法來評(píng)估這些人工智能模型的能力”。谷歌則未回應(yīng)。

01.意識(shí)是什么?

在研究人工智能意識(shí)時(shí),面臨的一個(gè)挑戰(zhàn)是定義什么是意識(shí)。彼得斯表示,為了報(bào)告的目的,研究人員將重點(diǎn)放在了“現(xiàn)象意識(shí)”上,也就是主觀體驗(yàn)。即存在于人、動(dòng)物或人工智能系統(tǒng)系統(tǒng)(如果其中之一被證明具有意識(shí))的感覺。

有許多基于神經(jīng)科學(xué)的理論描述了意識(shí)的生物學(xué)基礎(chǔ)。但哪一種才是 “正確 ”的,目前還沒有達(dá)成共識(shí)。因此,作者采用了一系列理論來創(chuàng)建他們的框架。他們的想法是,如果一個(gè)人工智能系統(tǒng)的功能與這些理論的多個(gè)方面相匹配,那么它具有意識(shí)的可能性就更大

他們認(rèn)為,這種評(píng)估意識(shí)的方法比簡單地進(jìn)行行為測試更好,例如詢問ChatGPT是否有意識(shí),或者對(duì)其進(jìn)行挑戰(zhàn)并觀察其反應(yīng)。因?yàn)槿斯ぶ悄芟到y(tǒng)在模仿人類方面已經(jīng)取得了令人難以置信的進(jìn)展。

英國蘇塞克斯大學(xué)意識(shí)科學(xué)中心主任、神經(jīng)科學(xué)家阿尼爾-塞思(Anil Seth)的認(rèn)為,該團(tuán)隊(duì)所采用的理論嚴(yán)密的方法是一個(gè)不錯(cuò)的選擇。然而,他表示,“我們還需要更精確、經(jīng)過充分測試的意識(shí)理論。”

02.一種理論密集型方法

為了制定他們的標(biāo)準(zhǔn),作者假設(shè)意識(shí)與系統(tǒng)如何處理信息有關(guān),而不管它們是由神經(jīng)元、計(jì)算機(jī)芯片還是其他材料構(gòu)成。這種方法被稱為計(jì)算功能主義。他們還假設(shè),以神經(jīng)科學(xué)為基礎(chǔ)的意識(shí)理論可以應(yīng)用于人工智能,這些理論是通過對(duì)人類和動(dòng)物的大腦掃描和其他技術(shù)研究而得出。

在這些假設(shè)的基礎(chǔ)上,團(tuán)隊(duì)選擇了其中的六種理論,并從中提取了一系列意識(shí)指標(biāo)。

其中之一是全局工作空間理論,它聲稱人類和其他動(dòng)物使用許多專門的系統(tǒng)(也稱為模塊)來執(zhí)行諸如視覺和聽覺等認(rèn)知任務(wù)。這些模塊獨(dú)立但并行地工作,并整合成一個(gè)單一系統(tǒng)來共享信息。

朗(Lo ng ) 表示,"通過觀察系統(tǒng)的架構(gòu)以及信息在其中的流動(dòng)方式",人們就能評(píng)估某個(gè)特定的人工智能系統(tǒng)是否顯示了這一理論所衍生的指標(biāo)。

塞思(Seth)對(duì)該團(tuán)隊(duì)的提案印象深刻。他表示:“它非常深思熟慮,沒有夸夸其談,并且清楚地表明其假設(shè)。”盡管我不同意其中一些假設(shè),但這完全沒關(guān)系,因?yàn)橛锌赡苁俏义e(cuò)了。"

作者表示,該論文遠(yuǎn)未對(duì)如何評(píng)估具有意識(shí)的人工智能系統(tǒng)做出最終結(jié)論,他們希望其他研究人員能夠幫助完善他們的方法論。但這些標(biāo)準(zhǔn)已經(jīng)可以應(yīng)用于現(xiàn)有的人工智能系統(tǒng)

例如,報(bào)告對(duì)ChatGPT等大型語言模型進(jìn)行了評(píng)估,發(fā)現(xiàn)這類系統(tǒng)可以說具有與全局工作空間理論相關(guān)的一些意識(shí)指標(biāo)。不過,這項(xiàng)工作并未暗示任何現(xiàn)有的人工智能系統(tǒng)是意識(shí)的強(qiáng)有力候選者,至少目前還沒有。

原文由Mariana Lenharo撰寫,中文內(nèi)容由元宇宙之心(MetaverseHub)團(tuán)隊(duì)編譯,如需轉(zhuǎn)載請(qǐng)聯(lián)系我們。

       原文標(biāo)題 : 如果人工智能擁有了自主意識(shí),科學(xué)家怎樣才能發(fā)現(xiàn)?

聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字

您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評(píng)論

暫無評(píng)論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號(hào)
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯(cuò)
x
*文字標(biāo)題:
*糾錯(cuò)內(nèi)容:
聯(lián)系郵箱:
*驗(yàn) 證 碼:

粵公網(wǎng)安備 44030502002758號(hào)