&nb" />
訂閱
糾錯
加入自媒體

反向出埃及記,為什么OpenAI留不住真大佬?

2024-08-08 09:04
適道
關(guān)注

作者:適道AI組

編輯:白石

Sam Altman曾對《紐約客》侃侃而談:“馬斯克非?释仁澜纾疤崴仨毷钦仁澜绲哪莻英雄。”

 

對于他本人呢?我想到一個有趣的類比:Altman毫不在意世界是否毀滅,但前提他必須在諾亞方舟上,而且必須是船長。

 

不出意外地,OpenAI又雙叒出現(xiàn)了人事地震。

 

“ChatGPT架構(gòu)師”、聯(lián)創(chuàng)John Schulman官宣轉(zhuǎn)投Anthropic;去年新加入的產(chǎn)品副總裁Peter Deng官宣離職;大跌眼鏡的是,Altman的堅定戰(zhàn)友,OpenAI總裁兼聯(lián)創(chuàng)Greg Brockman也疑似離場。

 

如果此前“人員出走潮”是Altman掃除異己;那么Greg Brockman“長期休假”(Altman未回應(yīng)),或許是這位“新王”眾叛親離的開始。

 

至此,OpenAI最初11位創(chuàng)始人或僅存兩席:Sam Altman,以及楊立昆得意門生,語言與代碼生成部門負責人Wojciech Zaremba。著名OpenAI爆料人Jimmy Apples發(fā)X:高層已成空殼,你們快上新吧。

 

與此同時,OpenAI創(chuàng)始人之一,Altman昔日“導(dǎo)師”——馬斯克再次將Altman、Brockman告上法庭,理由是創(chuàng)立之初的“欺騙和敲詐勒索”。

 

適道來細數(shù)“OpenAI大將叛變”歷程,探討Sam Altman為何留不住真大佬?

“登基”前傳:是安全問題,但也不都是安全

古有PayPal黑幫,今有OpenAI叛將。

 

據(jù)統(tǒng)計,此前OpenAI已有近75名重要員工離職,創(chuàng)立了約30家AI公司。

 

前研究副總裁Dario Amodei&前安全與政策副總裁Daniela Amodei兄妹創(chuàng)辦Anthropic,估值180億美元;

 

前首席科學(xué)家Ilya Sutskever創(chuàng)辦SSI,估值100億美元;

 

前工程副總裁David Luan創(chuàng)辦Adept AI(被亞馬遜收編),估值超10億美元;

 

前技術(shù)負責人Jonas Schneider創(chuàng)辦機器人創(chuàng)企Daedalus,估值4000萬美元;

 

前研究科學(xué)家Aravind Srinivas創(chuàng)辦Perplexity.AI,估值估值30億美元;

 

前技術(shù)人員Tim Shi創(chuàng)辦AI客服平臺Cresta Al,估值16億美元;

 

其中,Anthropic成長為OpenAI的頭號對手、前司員工“庇護所”;Perplexity.AI成長為OpenAI最佳套殼者、Google搜索挑戰(zhàn)者........

 

對于普通研究員而言,離開是謀求更好的發(fā)展;但對于核心成員,尤其是創(chuàng)始團隊而言,離開基本就是因為三觀不同。

 

典型代表為馬斯克、Amodei兄妹,以及Ilya Sutskever。他們與Altman過招后反而鞏固了Altman在OpenAI的地位。

 

第一步,推翻馬斯克“暴政”

 

2015年,谷歌收購DeepMind。馬斯克與PayPal聯(lián)合創(chuàng)始人、Founders Fund創(chuàng)始人Luke Nosek聯(lián)手提出了一個競購方案,但最終未成功。這成為了馬斯克揮之不去的遺憾。

 

在此背景下,憂心忡忡的馬斯克參加了一場載入硅谷史冊的晚宴。席間聚集了約十位杰出人物,其中三位尤為耀眼——Altman、Ilya Sutskever,以及Greg Brockman。

 

他們和馬斯克探討了AI可能引發(fā)的災(zāi)難性后果,和成立一個匹敵谷歌項目所需的各項條件。

 

四人團隊認為自己具備成功所有要素:Hinton得意門生Ilya Sutskever是AI科學(xué)家;Stripe CTO Brockman是運營高手;YC CEO Sam Altman能協(xié)調(diào)所有要素;特斯拉創(chuàng)始人馬斯克有錢。

 

晚宴上,馬斯克承諾會投資10億美元,并提議將項目命名為OpenAI——將以非營利性的方式運作,專注于研發(fā)對人類有益的安全AI,而不是追求利潤。

 

2017年,谷歌發(fā)表著名Transformer論文,揭示了關(guān)鍵在于處理大量數(shù)據(jù),這需要巨大算力支持(Ilya Sutskever在OpenAI創(chuàng)立之初已有此判斷)。

 

于是,OpenAI開始缺錢了(馬斯克共為OpenAI捐贈了4400萬美元,并承擔了租金)。

 

Brockman和其他OpenAI成員建議將該組織轉(zhuǎn)變?yōu)闋I利性機構(gòu),以便從微軟等投資者那里籌錢。

 

一開始,馬斯克堅決反對。但當他意識到成立營利性實體很必要性時,就希望自己獲得多數(shù)股權(quán)、初步董事會控制權(quán),并擔任CEO。馬斯克甚至提出將OpenAI并入特斯拉。原因是,特斯拉是唯一有希望與谷歌比肩的公司。

 

眼看沒人答應(yīng),馬斯克又開始游說OpenAI研究人員跳槽特斯拉。

 

終于,“作妖不斷”的馬斯克被董事會投票出局。

 

走之前,他還詛咒OpenAI戰(zhàn)勝DeepMind/Google的概率為0%。

 

不過,與Altman密切的人透露,馬斯克純粹是嫉妒Altman搶了自己在AI領(lǐng)域的風頭,他更加關(guān)注如何擊敗OpenAI,而非AI安全。與馬斯克親近的人則堅稱,他對AI安全的擔憂是真實且深刻的,比如開發(fā)xAI替代OpenAI。

 

但無論如何,趕走“獨裁者”馬斯克絕對是Altman登基的第一步。

 

第二步 金蟬脫殼 追求利潤最大化

 

2019年,OpenAI從微軟手中拿到了10億美元,以繼續(xù)開發(fā)“好”AI。

 

當你拿到10億美元時,你就必須回報“金主”,這其實已經(jīng)讓一些元老心懷疑慮。

 

但Altman相當靈活——不留戀非營利組織的名聲,留戀非營利組織的殼子。

 

他創(chuàng)造性地構(gòu)建了一種全新的架構(gòu)。一方面,OpenAI能像普通公司運作,比如籌資、發(fā)放員工股權(quán);另一方面,OpenAI投資者的回報有上限。

 

本質(zhì)上,OpenAI成為了一個由非營利組織董事會控制的營利公司。

 

這聽起來就不穩(wěn)定,團隊內(nèi)部分裂開始逐步出現(xiàn)。

 

2021年,Dario Amode創(chuàng)立Anthropic時說:

 

“OpenAI內(nèi)部有一群人,當我們創(chuàng)造GPT-2和GPT-3后,對兩件事有非常強烈的信念。一是認為這些模型中投入的計算資源越多,它們會變得越好,幾乎沒有盡頭。我認為現(xiàn)在這個觀點得到了更廣泛的認可,但我們是最早的信仰者。

 

第二點是認為,需要除了擴大模型規(guī)模之外的東西,那就是對齊或安全性。因為只通過增加計算資源并不能告訴模型它們的價值觀。所以我們秉持著這個想法,成立了自己的公司。”

 

雖然Anthropic看起來更加“安全”,并在準確性方面下足了功夫。例如,Anthropic使用了大量復(fù)雜的事實問題來針對模型已知的弱點,將答案分為正確答案、錯誤答案(幻覺)、承認“不知道”。相應(yīng)地,Claude3可以表示自己不知道答案,而不是提供不正確的信息。除了更準確的回復(fù),Claude 3甚至還能“引用”,指向參考材料中的精確句子來驗證他們的答案。

 

但正如OpenAI回報微軟,Anthropic也要回報亞馬遜,以合乎道德的方式經(jīng)營一家大型AI公司幾乎是不可能的。

 

最近,Anthropic就被曝24小時抓取百萬次網(wǎng)站數(shù)據(jù)等等。

 

“質(zhì)疑、理解、成為”或許才是大模型初創(chuàng)公司的必經(jīng)之路。

 

第三步 清洗叛徒 “黃袍加身”

 

陳橋兵變,宋太祖趙匡胤在半夜熟睡中,被兵變將士們偷偷地將黃袍披在身上。第二天,他痛苦地接受了大家的“逼迫”。主打一個民心所向。

 

而在去年11月OpenAI宮斗中,也上演了一出“硅谷版”黃袍加身。彼時,數(shù)百名OpenAI員工簽署聯(lián)名信,要求所有“叛變”董事會成員辭職、恢復(fù)Altman職位,否則簽署聯(lián)名信的員工將采取行動,“可能會加入Altman和Brockman在微軟新成立的子公司”。

 

這威望和影響力,簡直是所有CEO的夢想。

 

等等,故事還有另一個版本。

 

其實這場風波,除了“比心隊列”,還有一個關(guān)鍵因素——金錢。

 

就在逼宮事件前不久,OpenAI剛剛為員工組織了一場股票出售活動,讓大家有機會套現(xiàn)部分股權(quán)。結(jié)果,錢還沒拿到手呢,老板先被干下去了。

 

一些投資者表示,如果Altman不回歸,他們會暫停執(zhí)行要約收購。眼看拿這筆錢提前退休,居然被“大惡人”Ilya Sutskever攪黃了!換誰能不生氣。

 

因此,簽署請愿書確實是民心所向。而且,當你身邊95%同事都簽名支持時,你很可能也會簽上字。

 

至于Ilya Sutskever逼宮失敗與被迫出走,除了不那么懂人性之外,還和Altman極強的弄權(quán)能力有關(guān),具體如下。

“新王”剪影:專權(quán)、欺騙、牟利、放任

時間回到2016年。彼時,OpenAI辦公地點是Brockman的私人公寓——沙發(fā)、廚柜,甚至床鋪,都是員工的工作臺。這個不起眼的地方,居然讓20位世界頂尖的AI大神齊聚一堂。

 

當時Altman和馬斯克不常駐,是Brockman和Ilya Sutskever攜手撐起了團隊。

 

Ilya Sutskever是AI領(lǐng)域的領(lǐng)軍人物,Brockman則被視為OpenAI業(yè)務(wù)運營的頂梁柱,

 

員工們記得,他們曾與Ilya Sutskever一同漫步于舊金山大街,深入討論宏觀議題,自問是否在正確的研究道路上踟躕。Ilya Sutskever對AI有著超前洞察力,他能用簡單的類比來闡釋復(fù)雜的技術(shù)概念,比如將神經(jīng)網(wǎng)絡(luò)比作一種特殊的計算機程序或電路。

 

甚至在OpenAI成立之初,Ilya Sutskever就意識到AI的巨大飛躍不是來自某個特定的調(diào)整或新發(fā)明,而是源自海量數(shù)據(jù)的積累,就像為引擎不斷注入燃料。

 

也正是這個原因。2017年,谷歌Transformer論文一經(jīng)發(fā)表,Ilya Sutskever就能及時帶領(lǐng)OpenAI探索并采用Transformer架構(gòu),成為行業(yè)內(nèi)最早采納這項先進技術(shù)的先鋒之一。

 

Brockman的勤奮眾所周知。一位前員工回憶,每天早晨到達辦公室時,總能看到Brockman對著電腦,晚上離開時,他也在鍵盤上敲打。幾年后,Brockman的婚禮在OpenAI辦公室舉行,婚禮由Ilya Sutskever主持,這一場景成為了公司文化的一部分。

 

在Brockman和Ilya Sutskever加入OpenAI時,他們已經(jīng)實現(xiàn)財富自由了。披星戴月只不過是被一個共同的夢想驅(qū)動——利用AI為人類未來做貢獻。

 

后續(xù)如我們所知,二人分道揚鑣。不過,相隔幾個月“被逼走”的二人未來也可能殊途同歸。

 

第一宗罪:專權(quán)

 

很多人可能將11月宮斗視為Altman的無妄之災(zāi),實際并非如此。

 

故事還是要從Anthropic說起。

 

起因是,Altman與董事會成員Helen Toner本來就不對付。

 

去年10月,Toner在喬治城大學(xué)的智庫發(fā)表了一篇論文,傾向于認為Anthropic在安全性更勝一籌,并輕微批評ChatGPT“偷工減料”發(fā)布。

 

盡管論文結(jié)論挺溫和,但Altman氣炸了,并開始私下與董事會成員逐一接觸,想把Toner投出去。

 

而且Altman顛倒黑白,聲稱Toner的一位支持者也想逐出她。

 

最終結(jié)果大家都知道了,被投出去的人是Altman。

 

第二宗罪:欺騙

 

董事會之所以想讓Altman走人,主要是不信任他。

 

比如去年7月,OpenAI成立超對齊團隊,由Ilya Sutskever和Leike領(lǐng)導(dǎo)。團隊旨在為公司內(nèi)部和非OpenAI模型的安全性提供研究。

 

但逃不過“先野蠻生長,再安全有序”的規(guī)律。OpenAI對AGI安全治理的優(yōu)先級,顯然放在了推出“閃亮產(chǎn)品”之后。初期承諾給超級對齊團隊的20%算力,也遭不斷蠶食,傷及“建立一個更負責任的AGI”員工的信心。

 

有趣的是,本次轉(zhuǎn)投Anthropic的John Schulman離職也和AI對齊相關(guān):“希望加深對AI對齊的關(guān)注,并開啟我職業(yè)生涯的新篇章,讓我可以重返實際的技術(shù)工作。”

 

今年7月末,OpenAI還把安全部門高級主管Aleksander Madry調(diào)離了安全崗位,并給他重新分配了“AI推理”的工作。

 

但OpenAI告訴媒體,Madry到新職位上后,仍致力于安全工作。Altman居然還強調(diào),OpenAI堅持了“給整個安全團隊至少20%算力”的承諾。

 

請注意,此時“超級對齊團隊”被他偷偷換成了“整個安全團隊”。

 

第三宗罪:牟利

 

如果欺騙升級呢?小道消息,去年董事會對Altman的驅(qū)逐和他隱瞞投資有關(guān)。

 

今年6月,WSJ指出——Altman投資了400多家公司,所持股份價值至少有28億美元。這個隱秘且龐大的投資帝國因OpenAI成功而直接受益。

 

表面上,Altman作為OpenAI CEO,年薪僅6.5萬美元,且不持有任何股份,原因是不想讓金錢腐蝕AI的安全發(fā)展。

 

實際上,在Altman的投資帝國中,越來越多的公司直接和OpenAI做起了生意,要么是OpenAI客戶,要么是主要業(yè)務(wù)合作伙伴。

 

例如,OpenAI正與核能創(chuàng)業(yè)公司Helion達成協(xié)議,希望通過后者購買大量電力,為數(shù)據(jù)中心供電。幕后老板正是Altman。

 

又例如,OpenAI想付費使用Reddit內(nèi)容來訓(xùn)練ChatGPT。而Altman和他所控制的實體持有7.6%的Reddit股份。甚至早在2014年,Altman還短暫地擔任過Reddit CEO。合作傳出后,此前瘋狂掉血的Reddit股價大漲10%,結(jié)果就是Altman所持股份一舉增長6900萬美元,達到7.54億美元。

 

第四宗罪:放任

 

Altman之所以對AI安全放任,有一部分原因是他非常樂觀?

 

如果你知道真正答案,可能會五味雜陳。

 

2015年,Altman就明確地表達過自己的擔心,認為高級AI會成為人類生存的最大威脅。甚至在早期談話中,他還用一種輕佻語氣提到,AI有可能終結(jié)世界。

 

甚至面對《紐約客》記者,Altman透露,自己早就儲備了槍支、黃金、彈藥、抗生素,以及以色列國防軍的防毒面具。他還提到自己在美國加州Big Sur有一片地,確保能在世界末日避難。

 

而當媒體再次提出時,Altman口風又變了:這不就是每個小男孩夢想的秘密基地嗎?

 

而他的妹妹安妮表示,這很符合她對自己哥哥的了解——一個極度注重安全、準備在最壞情況下囤積資源的人?梢酝茰y,Altman確實擁有足夠的儲備,只是懂得閉嘴了。

 

據(jù)稱,Altman的野心也在不斷擴張。例如,他正在進行普遍基本收入的研究,以防AI導(dǎo)致大規(guī)模失業(yè);他推出Worldcoin加密貨幣,該項目通過掃描眼球來分配收入。

 

了解Altman的人透露,他的目標遠不止于此,他甚至想成為“世界之王”,接管整個世界。反正,Altman確實曾考慮競選加州州長。而Altman曾經(jīng)的導(dǎo)師Paul Graham說:我認為他的目標是掌控整個未來!

       原文標題 : 反向出埃及記,為什么OpenAI留不住真大佬?

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號