“站在風(fēng)口上，啥都能飛起來(lái)”。

前段時(shí)間，UC伯克利博士、新加坡國(guó)立大學(xué)校長(zhǎng)青年教授尤洋剛剛率領(lǐng)團(tuán)隊(duì)斬獲AAAI 2023杰出論文獎(jiǎng)，名震AI圈。時(shí)隔不到3個(gè)月，尤洋又一次引起AI界矚目。這一次是因?yàn)樗�的�?chuàng)業(yè)公司。

5月22日，尤洋創(chuàng)立的潞晨科技宣布完成A輪融資，金額高達(dá)數(shù)億元。

據(jù)公司介紹，本輪融資是潞晨科技成立18個(gè)月內(nèi)完成的第三輪融資，此次融資資金將主要用于團(tuán)隊(duì)擴(kuò)張和業(yè)務(wù)拓展。

尤洋——久負(fù)盛名，成績(jī)斐然

尤洋的出名源自他攻讀UC伯克利計(jì)算機(jī)博士的一篇論文，189 頁(yè)的論文旨在縮小高性能計(jì)算（HPC）和機(jī)器學(xué)習(xí)（ML）之間的差距。

早在研究生期間，他就以第一作者身份獲得2015年國(guó)際并行與分布式處理大會(huì)（IPDPS）的最佳論文。

尤洋

在2015年以計(jì)算機(jī)系第一名的成績(jī)從清華大學(xué)畢業(yè)后，尤洋前往美國(guó)加州伯克利大學(xué)攻讀博士學(xué)位，師從美國(guó)科學(xué)院學(xué)院與工程院院士、ACM／IEEE Fellow James Demmel教授。而后者也是潞晨科技首席戰(zhàn)略官。

James Demmel教授

真正讓尤洋在AI業(yè)內(nèi)享負(fù)盛名的是他提出的一系列AI訓(xùn)練方法。

博士期間，尤洋的主要研究方向是高性能計(jì)算與機(jī)器學(xué)習(xí)的交叉領(lǐng)域，研究重點(diǎn)為大規(guī)模深度學(xué)習(xí)訓(xùn)練算法的分布式優(yōu)化。

后來(lái)，他和他的團(tuán)隊(duì)先是打破了ImageNet訓(xùn)練速度的世界記錄，后又以第一作者發(fā)表論文《Imagenet training in minutes》，獲國(guó)際并行處理大會(huì)（ICPP）最佳論文獎(jiǎng)。

在其論文中提出的LARS優(yōu)化器再次刷新了ImageNet訓(xùn)練速度的世界紀(jì)錄，將 AlexNet模型的訓(xùn)練時(shí)間壓縮到24分鐘。到這還遠(yuǎn)沒(méi)結(jié)束。一年之后，他在谷歌實(shí)習(xí)期間，又作為一作提出了LAMB優(yōu)化器，成功將BERT的預(yù)訓(xùn)練時(shí)間，從原本的三天三夜縮短至76分鐘。

LAMB的卓越性能使其成為機(jī)器學(xué)習(xí)領(lǐng)域的主流優(yōu)化器，并陸續(xù)被谷歌，微軟，英特爾，英偉達(dá)等科技巨頭廣泛應(yīng)用。

LAMB優(yōu)化器的性能

后面尤洋成為新加坡國(guó)立大學(xué)計(jì)算機(jī)系首位擔(dān)任校長(zhǎng)青年教授（Presidential Young Professor）的華人

一路而來(lái)，尤洋在AI領(lǐng)域創(chuàng)造了豐碩成果和矚目戰(zhàn)績(jī)。在2021年7月，他帶著這些成就回國(guó)創(chuàng)立了潞晨科技。

以解放AI生產(chǎn)力為使命

2021年7月尤洋回國(guó)創(chuàng)立潞晨科技，9月份就作為首位來(lái)自中國(guó)企業(yè)的獲獎(jiǎng)?wù)邩s獲超算領(lǐng)域高性能專(zhuān)委會(huì)杰出新人獎(jiǎng)。

而在2021年8月份，潞晨科技獲得由創(chuàng)新工場(chǎng)和真格基金合投的超千萬(wàn)元種子輪融資；2022年9月，又獲得藍(lán)馳創(chuàng)投領(lǐng)投的600萬(wàn)美元天使輪融資；2023年5月宣布完成數(shù)億A輪融資，本輪融資是潞晨科技成立18個(gè)月內(nèi)完成的第三輪融資，此次融資資金將主要用于團(tuán)隊(duì)擴(kuò)張和業(yè)務(wù)拓展。

AI熱潮的來(lái)臨，讓全球的資本市場(chǎng)都開(kāi)始關(guān)注AI領(lǐng)域產(chǎn)業(yè)。既有對(duì)沖基金巨鱷全力押注AI“領(lǐng)頭羊”企業(yè)，又有知名資本青睞AI新秀。

在這一眾備受矚目的AI產(chǎn)業(yè)中，陸續(xù)出現(xiàn)一批大模型解決方案供應(yīng)商。因?yàn)榘�括微軟、亞馬遜、谷歌在內(nèi)的巨頭都知道，生成式AI能力“涌現(xiàn)”的背后，是恐怖算力的支撐。

起初的算力可以靠“堆料”實(shí)現(xiàn)。但隨著數(shù)量增加，邊際效應(yīng)遞減加快，只堆數(shù)量費(fèi)用又高，效率又低。而且這個(gè)算力支出，就算對(duì)巨頭來(lái)說(shuō)也是一筆不能忽視的負(fù)擔(dān)。

這個(gè)時(shí)候，就需要優(yōu)化技術(shù)。

而潞晨科技Colossal－AI和對(duì)應(yīng)的企業(yè)版PaaS平臺(tái)，其愿景就是幫客戶(hù)達(dá)成最小化模型部署成本、最大化計(jì)算效率的效果。

他們這對(duì)大模型訓(xùn)練中稀缺的內(nèi)存資源試圖進(jìn)行科學(xué)管理，對(duì)GPU、CPU、NVME等異構(gòu)資源進(jìn)行動(dòng)態(tài)管理。

尤洋表示，“我們希望數(shù)據(jù)都能放到GPU里。但是如果GPU放不下了就放CPU里，CPU放不下就放NVMe里，但同時(shí)我們需要最小化CPU、GPU、NVMe之間的數(shù)據(jù)移動(dòng)，這是最重要的”。

此外還有高效N維并行系統(tǒng)、高維張量并行、低延時(shí)推理系統(tǒng)等解決方案來(lái)幫助企業(yè)解決在大模型訓(xùn)練中遇到的資源損耗問(wèn)題。

Colossal－AI GitHub星數(shù)

目前這些系統(tǒng)均匯聚在公司的PaaS平臺(tái)中，開(kāi)源版本Colossal－AI目前也已獲得約3萬(wàn)顆GitHub星星。在具體服務(wù)方式上，尤洋表示，目前客戶(hù)可以通過(guò)潞晨的PaaS平臺(tái)直接訓(xùn)練自己的模型，潞晨也可以幫助客戶(hù)訓(xùn)練模型。

尤洋對(duì)潞晨科技的目標(biāo)概括為“以解放AI生產(chǎn)力為使命”，輕飄飄的一句話背后是他和團(tuán)隊(duì)這么多年以來(lái)的努力。

經(jīng)過(guò)一段時(shí)間的野蠻生長(zhǎng)，AI大模型開(kāi)始進(jìn)入了實(shí)用和落地的階段。衡量一個(gè)大模型的優(yōu)劣，也不再單純的只是參數(shù)、token、多模態(tài)等等。成本，永遠(yuǎn)都是實(shí)際生產(chǎn)中最重要的指標(biāo)。

差異化競(jìng)爭(zhēng)一直是必要的�？梢灶A(yù)見(jiàn)，像潞晨科技這樣的AI企業(yè)將會(huì)越來(lái)越多。