“

AI領(lǐng)域充斥著資本、算力和數(shù)據(jù)，但主流研究方式有可能限制真正的突破。‍‍‍‍‍

”

作者 | 鄭惠敏編輯｜Zuri20幾歲，他憑借幾款創(chuàng)世級別的3D游戲大賣，實現(xiàn)財務(wù)自由。

不差錢的他開始折騰火箭，不幸以失敗告終。

迷上VR，加入成立剛滿一年的Oculus擔(dān)任CTO，一年后原地飛升，被Meta 20億美金收購。

作為拒絕過馬斯克、蓋茨、喬布斯、山姆•奧特曼的男人，

AGI 時代，他決定再出山，干一票大的。

2022年創(chuàng)立Keen Technologies，另辟蹊徑實現(xiàn)AGI，獲得紅杉資本、GitHub前CEO、Stripe聯(lián)合創(chuàng)始人、Shopify聯(lián)合創(chuàng)始人兼CEO等2000萬美元投資。

他就是70年代出生的編程天才，人稱“卡神”的John Carmack。

01

封“神”之路

小時候的Carmack，不是個乖孩子。

沉迷游戲，迷戀電腦，甚至不惜偷竊以滿足對電腦的渴望，并因此被關(guān)進少管所。進入高中后因為不羈的個性又被學(xué)校勒令休學(xué)一年。

因為天生聰明，復(fù)學(xué)后的他以4.0的平均績點順利畢業(yè)，進入了美國著名的公立研究型大學(xué)堪薩斯大學(xué)。

但僅僅讀了兩個學(xué)期，Carmack就厭煩了循規(guī)蹈矩的大學(xué)生活，輟學(xué)進入社會。

從此Carmack過上了理想的生活，認識了志同道合的伙伴—— 程序員John Romero、游戲設(shè)計師Tom Hall和畫師Ardian Carmack，四人夜以繼日的敲代碼、開發(fā)游戲，發(fā)布了《指揮官基恩》（Commander Keen）系列游戲的第一部并大爆。Carmack的AGI公司Keen Technologies的名字正式源于此。

作品大爆使他們萌生了創(chuàng)業(yè)念頭，1991年，四人正式成立后來大名鼎鼎的游戲公司id Software。

1992年，id發(fā)行了射擊游戲《德軍總部》（Wolfenstein 3-D）3D版，這是全球最早的3D第一人稱視角射擊(FPS)，開創(chuàng)了FPS這個前所未有的游戲類別，以3D和射擊的概念讓這款源自80年代的作品重新煥發(fā)生機。

隔年問世的《毀滅戰(zhàn)士》更是成就驚人，它以快節(jié)奏的戰(zhàn)斗、暴力的視覺表現(xiàn)、極強的兼容性成為FPS游戲中王者級別的存在，奠定了id業(yè)界巔峰的地位，不到一年時間里就帶來了上億美元的利潤，還帶動了當(dāng)時并不便宜的PC銷量。

圖源：PCGamesN

面對巨大的利益，Carmack做出了一個令人驚訝的舉動，他向公眾公布了《毀滅戰(zhàn)士》的部分源代碼，這使得其忠實粉絲有機會修改關(guān)卡和圖形，相當(dāng)于賦予了粉絲二次創(chuàng)作的機會，這進一步引燃了玩家的熱情。

1995年，《毀滅戰(zhàn)士》的裝機量甚至跑贏了Windows95，讓比爾·蓋茨動起了收購id的念頭。

被Carmack拒絕后，微軟只好自己動手把《毀滅戰(zhàn)士》移植到系統(tǒng)中。蓋茨還親自出鏡，在電視廣告中借著這款游戲售賣自家的Windows系統(tǒng)。

這些風(fēng)靡一時的佳作讓Carmack在玩家心中封神。

卡神在游戲中運用的3D圖形顯示技術(shù)和游戲引擎，后續(xù)也啟發(fā)了Epic Games虛幻引擎和Unity 3D開發(fā)工具的誕生，對后世游戲產(chǎn)業(yè)產(chǎn)生了深遠影響。

這里有一個小插曲，卡神與喬布斯一度關(guān)系甜蜜，二人在id創(chuàng)辦早期便熟識，甚至卡神說服了喬布斯使用開源的OpenGL作為蘋果電腦的2D、3D圖形渲染引擎，卡神將之稱為對PC行業(yè)“最大的間接影響之一”。

喬布斯與卡神｜圖源：Variety

但哪怕對方是喬布斯，卡神特立獨行起來，也不給面子。據(jù)說，喬布斯曾想讓卡神推遲原定的婚期，去做一個重要的主題演講，但遭到了卡神的拒絕。

言歸正傳，對卡神本人來說，游戲作品的暢銷也讓他年紀(jì)輕輕就獲得了大筆財富，不缺錢的他將目光轉(zhuǎn)向了超級燒錢的民用航空領(lǐng)域。

2000年，他成立航天公司Armadillo Aerospace以開發(fā)前衛(wèi)的太空探險項目，并由此結(jié)識了同樣心系外太空的馬斯克。

圖源：IBTimes UK

兩人惺惺相惜，在卡神的太空事業(yè)步入絕境后，2015年，馬斯克與卡神推特互動時，突然邀請卡神加入SpaceX，然而與喬布斯一樣，遭到了卡神的拒絕，因為，卡神那時正全情投入到了VR事業(yè)中。

后來談起未竟的太空事業(yè)，卡神認為失敗的部分原因要歸結(jié)于自己未能全力以赴，而馬斯克對事業(yè)全情投入的精神值得學(xué)習(xí)，這讓他決定以后無論做什么都要全力以赴。

圖源：推特, International Business Times

2013年，卡神離開了一手創(chuàng)立的id Software，加入剛成立不久的Oculus擔(dān)任CTO。入職當(dāng)天，蜂擁而來的粉絲圍觀讓Oculus的博客系統(tǒng)一度宕機。2014年，Oculus被Meta 20億美元買下，卡神加入Meta繼續(xù)研究VR。

卡神可謂兢兢業(yè)業(yè)：對公司項目親力親為，負責(zé)與三星合作開發(fā)Gear VR，一個扛起需要一整個團隊完成的工作量；從必須鏈接PC使用的Oculus Rift，到最早的VR一體機Oculus Go，再到高性價比的Oculus Quest，以及Oculus的生態(tài)應(yīng)用商店，都有卡神的身影奉獻；他對玩家如春天般溫暖：為了讓用戶能在VR中玩到《我的世界》，他獨自花費一年多時間將游戲移植到Oculus商店。

但后來，卡神專注技術(shù)、腳踏實地的作風(fēng)與Meta在元宇宙方面激進的策略產(chǎn)生掣肘，導(dǎo)致他在Oculus的重大決策中逐漸喪失了話語權(quán)。卡神對VR的熱情也被Meta緩慢的運營效率消磨殆盡。最終，他選擇在合同到期后離開。

02

AGI的召喚：卡神進軍人工智能

這一次，讓大神轉(zhuǎn)身的是AGI。

擔(dān)任Oculus CTO期間，OpenAI的三位靈魂人物Sam Altman、Greg Brockman和Ilya Sutskever勸說卡神加入OpenAI，一直以來特立獨行的卡神不出意料的拒絕了。

但卡神卻看完了Ilya列出的40多篇相關(guān)研究論文，從頭開始，惡補AI算法，在Python才是主流編程語言的情況下，僅閉關(guān)一周時間就用C++寫出了卷積神經(jīng)網(wǎng)絡(luò)。

2022年，卡神正式下場，成立了AGI公司Keen Technologies。與大公司在投入一個新的技術(shù)領(lǐng)域時先評估商業(yè)前景的方式不同，卡神直截了當(dāng)?shù)乇硎�，自己�?dāng)前的工作，短期商業(yè)機會為零。

圖源：John Carmack X 賬號 Keen的首輪投資方不可小覷：包括GitHub前CEO Nat Friedman、前蘋果AI高管Daniel Gross、Stripe聯(lián)合創(chuàng)始人Patrick Collison、Shopify聯(lián)合創(chuàng)始人Tobi Lutke、紅杉資本以及硅谷傳奇芯片架構(gòu)設(shè)計師Jim Keller。

其中，Nat Friedman和Daniel Gross是Cohere、Character.ai等AI獨角獸的早期投資人，投出了美國人工智能的半壁江山，Daniel Gross最近還成了前OpenAI首席科學(xué)家Ilya創(chuàng)立的AI安全公司的聯(lián)合創(chuàng)始人；Jim Keller則擁有20多年的芯片設(shè)計經(jīng)驗，被譽為Zen架構(gòu)之父，曾在蘋果、AMD、特斯拉等公司負責(zé)芯片設(shè)計與研發(fā)。

早就靠賣游戲?qū)崿F(xiàn)財務(wù)自由的卡神并不缺錢，接受外部融資只是為了讓自己更有創(chuàng)業(yè)的緊迫感。

這次創(chuàng)業(yè)，卡神拉上了強化學(xué)習(xí)之父Richard Sutton。

Sutton是經(jīng)典教科書《強化學(xué)習(xí)導(dǎo)論》的合著者，被稱為現(xiàn)代強化學(xué)習(xí)支付，曾在DeepMind參與AlphaGo系列研究，現(xiàn)任教于加拿大阿爾伯塔大學(xué)機器智能研究所。

卡神和Sutton｜圖源：Taproot Edmoton

Sutton曾撰寫過一篇著名短文The Bitter Lesson，這篇文章今天已成為OpenAI工程師的必讀經(jīng)典。文章強調(diào)了增加算力對AI發(fā)展的重要性，與當(dāng)時OpenAI訓(xùn)練AI所嘗試的路徑不謀而合，并在大語言模型的實現(xiàn)過程中得以印證。

通過郵件交流，卡神和Sutton發(fā)現(xiàn)雙方都想走一條“非主流”之路。

用卡神的話來說“AI領(lǐng)域充斥著資本、算力和數(shù)據(jù)，但主流研究方式有可能限制真正的突破。Sutton和我恰好站在主流之外。”

他們都認為最終的AGI不會太復(fù)雜，與現(xiàn)在一個大規(guī)模應(yīng)用數(shù)百上千萬行代碼、一個人永遠無法寫完相比，一個人就能編寫AGI代碼。

“如果拿出人的整個DNA，它的信息量不到1GB，大腦只是其中很小的一部分—— 大約40MB，而且它沒有被嚴(yán)格編碼。這說明構(gòu)成我們大腦智慧的編碼沒有那么多。”卡神表示。

在卡神的設(shè)想中，AGI應(yīng)該保持持續(xù)在線學(xué)習(xí)，而不是現(xiàn)在模型在完成預(yù)訓(xùn)練后大部分參數(shù)就不再更新。

不過，Keen Technologies將走的具體路線，目前還保持神秘，打開公司官網(wǎng)，只有一句簡單的話“John Carmack的AGI嘗試，尚未披露信息。”

03

2030年之約：AI小公司如何上大分？

盡管一切還在迷霧中，但至少有一點事明確的，卡神認為我們有希望在2030年看到AGI的端倪。

“我能看到目的地，但是現(xiàn)狀和目的地之間充滿不確定。沒人知道如何實現(xiàn)，但我有信心到達目的地，或者至少有人可以實現(xiàn)，時間點很可能是2030。”

據(jù)報道，Keen的創(chuàng)始技術(shù)團隊只有4人，融資規(guī)模仍停留在最初的2000萬美元。無論人才還是資金儲備都不如OpenAI等頭部AI獨角獸，更比不上谷歌、Meta等巨頭。

圖源：TechCrunch

如此小的團隊，如何實現(xiàn)通用人工智能的宏偉目標(biāo)？

在Scaling Law尚未失效的當(dāng)下，一邊，以大模型為AGI基石的公司們?nèi)栽诔掷m(xù)擴展大模型的參數(shù)和數(shù)據(jù)規(guī)模；另一邊，以蘋果為代表的端側(cè)小模型不卷參數(shù)開始卷效率。而各大公司的不同研究團隊用幾個月的時間重復(fù)造輪子的群體性思維，讓卡神感到不可思議。

在卡神看來，機器學(xué)習(xí)領(lǐng)域的研究存在一定隨機性，目前并無明確的方向。小團隊的優(yōu)勢在于可以把自己當(dāng)做一個隨機測試點，從隨機權(quán)重和隨機位置開始研究，反而有更大概率找到合適的路徑。

在Transformer占大模型架構(gòu)主流的背景下，也有新的架構(gòu)試圖撼動前者的主導(dǎo)地位。

例如來自卡內(nèi)基梅隆大學(xué)和普林斯頓大學(xué)的兩位助教發(fā)布的Mamba神經(jīng)網(wǎng)絡(luò)架構(gòu)，去年12月一發(fā)布就在開源社區(qū)引起熱烈反響。

按照作者，普林斯頓助理教授Tri Dao的說法，Mamba突破了Transformer架構(gòu)核心注意力層無法擴展到長上下文的局限性，可以隨上下文長度的增加線性擴展，具有5倍的推理吞吐量，基于該架構(gòu)的語言模型表現(xiàn)超越了Transformer架構(gòu)的模型。

圖源：Tri Dao X 賬號

最近，原作者帶隊的Mamba-2架構(gòu)正式發(fā)布，在訓(xùn)練速度和任務(wù)執(zhí)行方面都有了更大提升。

回到Keen，卡神表示將關(guān)注公司的長期發(fā)展，不會過早考慮商業(yè)化。當(dāng)前，Keen團隊正在探索智能體之間的行動、感知、認知能力的增強，并尋找評估AI進步的確切指標(biāo)。

近2年時間里，公司沒有持續(xù)補血，這在花錢如流水的AI創(chuàng)業(yè)圈是難以想象的。

對此，卡神曾在專訪中表示，AGI是一項長達10年的任務(wù)，他不想在2年內(nèi)將2000萬美金燒完，再用“另一個系列來獲得另外幾億美元”。

他計劃花費數(shù)年的時間解決AGI的部分問題，并對已實現(xiàn)的成果進行一定程度的擴展，觀察其效果。在自己培養(yǎng)的智能體實現(xiàn)可學(xué)習(xí)、可互動之后，卡神才會組建一支成分復(fù)雜的龐大隊伍來進行后續(xù)的研究。

目前，通往AGI的道路依然迷霧重重。

但正如曾經(jīng)在3D游戲、火箭、VR領(lǐng)域書寫的傳奇一樣，有遠見、重實干的，卡神必將在這個充滿未知的新領(lǐng)域留下精彩的一筆。

文末互動：

你如何看大神John Carmack的傳奇歷程？

評論區(qū)告訴我們你的看法哦～

       原文標(biāo)題 : 年少財富自由，拒絕過蓋茨、馬斯克、奧特曼，傳奇程序員的AGI之路