文：詩與星空(ID: SingingUnderStars)                      

馬斯克和人工智能領(lǐng)域頂尖專家、圖靈獎得主約書亞•本吉奧(Yoshua Bengio)等人聯(lián)名簽署了一封公開信，呼吁暫停開發(fā)比GPT-4更強大的AI系統(tǒng)至少6個月，稱其“對社會和人類構(gòu)成潛在風(fēng)險”。這封發(fā)布在非營利性組織“未來生命研究所”(Future of Life Institute)網(wǎng)站上的公開信主張，在開發(fā)強大的AI系統(tǒng)之前，應(yīng)先確認其帶來影響是積極的、風(fēng)險是可控的。        

信中詳述了具有人類水平智能的AI系統(tǒng)可能對社會和人類帶來極大的風(fēng)險，稱“這一點已經(jīng)得到大量研究和頂級AI實驗室的認同”，并連續(xù)拋出四個疑問：         

- 我們是否應(yīng)該讓機器用宣傳和謊言淹沒我們的信息渠道？         

- 我們是否應(yīng)該讓所有的工作自動化，包括那些令人滿意的工作？         

- 我們是否應(yīng)該發(fā)展最終可能在數(shù)量上超過我們、在智能上超越我們、能夠淘汰并取代我們的非人類思維？         

- 我們應(yīng)該冒著失去對我們文明控制的風(fēng)險嗎？         

這封公開信的簽名者越來越多，不過也有人核實部分簽名可能并非本人，但馬斯克呼吁暫緩AI的研究是一個事實。         

這些大佬為什么這么做？         

有一種觀點，認為馬斯克是為了在這段延緩的時間發(fā)展自己投資的新AI產(chǎn)品。星空君認為，這個觀點有點低估馬斯克的格局了。         

作為世界首富、想要死在火星的馬斯克來說，他的夢想真的是星辰大海。         

在此之前，星空君大概深度使用了一個多月的ChatGPT和stable diffusion，甚至特意買了一臺12G顯卡的主機做測試，對于AI加持的人類未來，原本還是很樂觀的。                  

研究完這封公開信之后，卻變的非常不淡定了，因為事實可能和我的樂觀不一致。

01

第四次工業(yè)革命和前三次工業(yè)革命的本質(zhì)不同         

ChatGPT為首的人工智能比以往任何的產(chǎn)品都要強大，甚至似乎“進化”出了智慧。以及隨著工業(yè)4.0的快速迭代，第四次工業(yè)革命已經(jīng)/即將到來。         

前三次工業(yè)革命都大幅提高了生產(chǎn)力，但同時提供了更為先進的生產(chǎn)工具，從而產(chǎn)生了更多的工作崗位，才有了工程師、程序員這類高科技人才的發(fā)展空間。         

蒸汽機不能憑空制造，電腦需要人工操作。         

第四次工業(yè)革命卻變的有一點點不一樣：代碼可以憑空制造、機器也許可以憑空制造。         

這意味著，這一次的工業(yè)革命很可能在解放生產(chǎn)力的同時，不會創(chuàng)造更多新的崗位了。         

當(dāng)然這只是推測，也許新的工業(yè)革命會催生革命性的就業(yè)崗位。         

如果真的無法創(chuàng)造更多的崗位，那就出現(xiàn)了一個嚴(yán)重的問題：AI發(fā)展越快，沒有工作的人類會越來越多，世界有沒有做好出現(xiàn)一部分人（可能數(shù)量巨大）無法工作的情況？         

馬斯克的擔(dān)心是對的，很顯然人類社會并沒有做好這個準(zhǔn)備。

02

數(shù)字化生存         

1996年，美國學(xué)者尼葛洛龐帝出版了一本書，叫《數(shù)字化生存》。         

在這本書里，尼葛洛龐帝提到，人類生存于一個虛擬的、數(shù)字化的生存活動空間，在這個空間里人們應(yīng)用數(shù)字技術(shù)（信息技術(shù)）從事信息傳播、交流、學(xué)習(xí)、工作等活動，這便是數(shù)字化生存。         

星空君的第一個郵箱就是1996年注冊的，那年擁有了自己的第一臺電腦，第二年就讀到了這本書，年少的心對未來充滿了期待。         

2000年的時候，加拿大科幻小說家羅伯特﹒J﹒索耶寫過一本《計算中的上帝》。遺憾的是，讀到這本書的時候，是20年之后了，如果當(dāng)時能夠讀到這本書，可能會對數(shù)字化生存有一個全新的認識。         

《計算中的上帝》認為，當(dāng)一個星際文明發(fā)展出原子能和計算機技術(shù)后，會在短短幾百年的時間里，迅速發(fā)展到“數(shù)字化生命”階段。把全體成員的意識上傳，數(shù)字生命在云端生存并迭代發(fā)展，一直到宇宙盡頭，而這個文明的實體就消失在茫茫宇宙中。         

結(jié)合起來想，就明白為什么馬斯克在研究腦機接口了。一旦實現(xiàn)了人類意識的上傳，距離真正的數(shù)字化生存就咫尺之遙。         

不過意識上傳有個bug，現(xiàn)在電腦的所謂“剪切”并不是真正的剪切，而是先復(fù)制后再刪除原來的。         

一旦實現(xiàn)了意識上傳，那么傳上去的，其實是個復(fù)制品。         

如果意識可以永存，那么即便是上傳了我的意識的復(fù)制品，我也可以接受拋棄軀殼的結(jié)果。

03

悲觀與樂觀同在               

無論最終AI發(fā)展到什么程度，人類都不可避免的要去擁抱AI。         

要么和AI一同進化，成為AI的一部分；要么被AI淘汰，成為進化路上失敗的一支，就像當(dāng)年的尼安德特人。         

這并非危言聳聽。

       原文標(biāo)題 : AI做好解放生產(chǎn)力的準(zhǔn)備了，但人類還沒做好