在眾多“科技鬼故事”中，機器人的意識覺醒，絕對是最吸引眼球的一種。

自從1920年捷克作家卡雷爾·恰佩克在他的劇本《羅素姆的萬能機器人》（Rossum’s Universal Robots）中，第一次使用robot這個詞，描繪了被機器人統(tǒng)治的世界以后，全球的劇作家們就開始各種放飛想象。

從奠定了“機器人三定律”的阿西莫夫小說，到與人類纏斗不休的《終結者》系列，亦或是充滿哲學浪漫色彩的《愛死亡機器人》，關于機器的善惡二元論，為科幻世界貢獻了無數(shù)經(jīng)典，也成了智能科技領域中最接地氣、人人都能討論兩句的主題之一。

機器人真的會擁有自主意識嗎？又會對人類社會產(chǎn)生怎樣的影響？粒子機器人的出現(xiàn)，似乎又將這道難解之謎推演到了新的階段。

從“細胞”開始，推開機器人覺醒的未來之門

最近，哥倫比亞大學教授、機器人研究權威專家Hod Lipson提出，機器將會有自我意識，這件事是確信無疑的。只不過“這件事情將在10年之后發(fā)生，還是100年之后發(fā)生”，科學家本人也不知道。

我們知道，以往在設計機器智能系統(tǒng)的時候，技術人員總是會試圖讓它們模擬和還原人類的行為。于是我們看到，機器在copy人類的過程中，學會了如何看、如何下棋，甚至還會像人一樣控制肢體來上一段花式體操。看起來，似乎機器的能力已經(jīng)比絕大多數(shù)普通肥宅要強的多了。但為什么小說和電影里那么多牛氣沖天的機器人，生活中卻一個也沒有呢？

別說對著人類突突突的機器人軍團了，想花錢找個機器人管家替我擦桌子洗碗整理家務，都常常被科普“想太多”……而這都源于機器人的自我意識缺失。它只能完成人類告訴它的事情，并且還十分費勁。至于強智能系統(tǒng)需要的自我模擬、自我建模，更是遙遠的天方夜譚。

怎么現(xiàn)在突然就說機器人要產(chǎn)生自主意識了？乍聽之下簡直震驚我全家，接下來是不是該組織人類反抗軍了？咳咳，抱歉剛看完《終結者》后遺癥有點大……關于機器人覺醒，或許要從其最新的成果——仿生群體粒子機器人說起。

和人們想象中擁有機械身體、超智慧大腦的人形智能機器人不同，Hod Lipson所說的機器意識，很可能最先從粒子機器人集群中誕生。

今年三月，hod lipson團隊發(fā)明的新興粒子機器人登上了《自然》雜志封面，讓“機器的自我意識”出現(xiàn)了松動，這一發(fā)現(xiàn)也在學界引起了軒然大波。其創(chuàng)新性主要來自兩個方面：一是這些由“粒子”（即圓盤狀單元）組成的機械系統(tǒng)，不需要人類的強集中控制，也能依靠自主性伸縮和隨機運動完成復雜的任務；二是這種系統(tǒng)很可能產(chǎn)生覺知，通過思考“我為什么在這里”進而做出自我模擬、自我復制，從而可以在設備故障、特殊作業(yè)環(huán)境中順利完成任務。

聽到這里，大家可能會在松一口氣的同時也干到了一絲迷惑：

這種機器人系統(tǒng)看起來和草履蟲也差不太多，并不是很有威脅的樣子，那么傳說中的“黑客帝國”到底會不會來呢？

模擬人類心智的一小步，機器人的一大步

我們知道，人工智能研究是建立在人腦如何工作的基礎之上的，而意識則是其中十分高級的一環(huán)。粒子機器人集群的進步，說明機器人學來到了哪個階段呢？

首先，在擔憂機器威脅人類社會之前，我們會率先品嘗到技術進步帶來的甜蜜時刻。

之所以這么說，是因為前面的發(fā)現(xiàn)，正在將機器能夠模擬的心智能力推向更高維度。根據(jù)目前的科學研究，人類的心智主要包括四大能力，其中視覺感知和推理能力，已經(jīng)被神經(jīng)網(wǎng)絡模型復制到了現(xiàn)實世界，計算機視覺、AI大腦正在成為新的生產(chǎn)力引擎。而情感和社會關系，比如不同文化圈的人類能夠感受到愛恨悲喜等相通的感情，能夠根據(jù)合作、競爭、友誼、家人等不同的社會關系來產(chǎn)生動機并預測行為。

后面兩種能力才是機器人和科研人員苦求而不得的高級智能。機器如果擁有它們，會發(fā)生什么呢？至少目光所能及的未來很值得心動。

以粒子機器人為例，這種非常初級的“極可能擁有意識”的機器系統(tǒng)，能夠帶來的社會價值都是巨大的。

一方面，機器人如果能夠模擬其它的人類和機器人，那也就會啟動機器人之間的社會行為，進而可以認知環(huán)境、預測未來并主動采取行動。

如果機器某個零件壞了，它就可以自己修復，這使得機器的利用效率和適用范圍大大提升。比如工廠里的機器、家里的吸塵器等，一些部件壞掉就會讓整個機器無法運作。未來由這些納米級機器人組成的機器，就能夠不斷循環(huán)，單個足見壞掉之后依然可以使用，幫助使用者不斷節(jié)省成本。

另一方面，能夠為未來科技打開新的想象空間與可能性。比如太空科技，生物醫(yī)藥等，隨著粒子機器人技術向毫米、納米級演進，未來應用到人類的血管中幫助處理病灶，亦或是在月球上機器人可以根據(jù)任務的需求改變自身的形態(tài)。任何自動化智能系統(tǒng)，包括在技術瓶頸中苦尋出路的無人駕駛等，一旦它們能夠有自我意識，從毀壞中恢復，就能夠更快地改進，這都是并不遙遠得機器智能未來。

青山遮不住，畢竟東流去：機器的善惡誰說了算？

接下來，我們再來聊聊第二個問題——如果機器有意識，它一定會是惡的嗎？

在回答這個問題之前，我們不妨先聊聊計算機的進步。眾所周知，今天的計算機已經(jīng)比上個世紀更加聰明且強大，但類似《2001太空漫游》等科幻電影中大型主機反叛人類的擔憂，卻越來越少了。今天，我們也許會擔心網(wǎng)絡漏洞所引發(fā)的混亂或是人為惡意制造的病毒，卻很少會想象出現(xiàn)什么電腦殺手或秘密組織。

人類為什么對智能機器人這么緊張呢？除了在智力、能力、體力上對人類個體的碾壓之外，恐怕一個很大的恐懼來自于未知與不確定性：一旦機器擁有獨立的人格和認知，會不會傷害人類呢？

問題來了，為什么機器人想要這么做呢？為了更多的服務器資源，還是傷害流水線工人會使其得到快感？在沒有足夠“獎勵”的前提下機器會自己變壞嗎？顯然還要問人類自己。

很多人認為，機器人覺醒會像《西部世界》中女主角德洛瑞絲一樣，意識到自己是被人類奴役和玩弄的，進而開始復仇。即使這一天真的會到來，我想以目前人類與機器人之間的關系，也不至于會變得劍拔弩張吧。

哪個“變態(tài)科學家”會甘愿冒天下之大不韙，丟給智能機器這樣“反人類”的數(shù)據(jù)集，而不擔心先被機器虐的是自己呢？

事實上，像波士頓動力那樣動輒對機器人拳打腳踢，只是為了訓練其適應性和靈活性的必要方式。就連這樣的操作，也因為人類自身的同理心和同情心，而變得越來越少了。讓AI在仿真環(huán)境里打游戲、讓機械手臂玩魔方、去山坡上溜機械狗……都是時下訓練的新方式，真有覺醒那一天，AI應該也給人類造一個沙盒游戲場快樂玩�！巴短覉罄睢辈艑β铩�

再進一步，如果出現(xiàn)了這樣的人類“恐怖分子”，比如利用AI行騙、犯罪，將機器人改造成爆炸裝置之類的，在技術上能否及時發(fā)現(xiàn)并遏制呢？

對于這一點，智能科學正在向網(wǎng)絡安全界學習，引入一些成熟的防范機制，比如人工智能開發(fā)中的紅色團隊、人工智能系統(tǒng)中的正式驗證，以及負責任地披露人工智能漏洞等等。

去年，由OpenAI、牛津大學、劍橋大學等14家機構和高校共同發(fā)布的《人工智能惡意使用》報告中，也進一步號召人工智能領域形成規(guī)范和道德框架。

在這樣道德、技術、法律等多方面的做功下，機器人的自主意識還會對人類帶來危險嗎？嚴謹如Hod Lipson也只是回答——沒那么簡單。

“應該說任何這樣的問題都沒有一個簡單的答案，但是我們必須走上這樣一個歷程，并且一步一步的往前走，我們現(xiàn)在要公開討論它應該可以做些什么，不可以做些什么，要不斷地進行研究�！�

對技術的擔憂，就如同初次觸摸火種的驚懼，永恒地懸在人類心頭。今天絕大多數(shù)人提到AI，已經(jīng)沒有了初見深藍和阿爾法狗的恐懼，開始重點關注其如何為經(jīng)濟釋放能量。

從這個角度看，智能機器人的“黃金時代”還沒能到來，它正如所有“前輩們”一樣，經(jīng)歷著幻想、質疑、混沌。所以，在這個技術尚且十分初級的階段，來探討其覺醒后是善是惡，似乎是一件很形而上的事情，但關乎我們每個人的未來，也孕育在這樣與技術進步相勾連的思索與拷問之間。

本文來源億歐，經(jīng)億歐授權發(fā)布，版權歸原作者所有。轉載或內(nèi)容合作請點擊轉載說明，違規(guī)轉載法律必究。

作者：腦極體來源：億歐