過(guò)去一年的云計(jì)算市場(chǎng)，冷熱交織。價(jià)格戰(zhàn)、“下云潮”，以及越來(lái)越單向度的內(nèi)卷等因素下，云計(jì)算遭遇全球IT疲軟，而AIGC領(lǐng)域卻是另一番景象。

規(guī)模化的云廠商均將AI作為拉動(dòng)業(yè)務(wù)的馬車(chē)，只是諸多嘗試還停步在布局AI基礎(chǔ)設(shè)施與云產(chǎn)品的智能化之上。這種路徑盡管對(duì)自身業(yè)務(wù)流程的幫助不小，但在向外輸出方面卻非常匱乏，這客觀造成了產(chǎn)業(yè)智能化進(jìn)程局限于點(diǎn)與線，無(wú)法推進(jìn)到面。此外，大模型的出現(xiàn)將人類(lèi)知識(shí)壓縮，云上開(kāi)發(fā)的管理對(duì)象也悄然生變。

AI時(shí)代用云與云上AI開(kāi)發(fā)需要一個(gè)嶄新的動(dòng)能，好比正在逐步替代傳統(tǒng)內(nèi)燃機(jī)列車(chē)的高鐵一般，雖當(dāng)下的鐵路網(wǎng)絡(luò)中仍有不少普快徐徐慢行，但它們已不再是人們便捷出行的首選。

云+AI是跑在舊鐵軌的綠皮車(chē)，而AI云則是一條全新的高鐵線路。

要AI云，而非云+AI

“傳統(tǒng)的云計(jì)算系統(tǒng)依然重要，但不再是主角，我們需要一個(gè)全新的操作系統(tǒng)，對(duì)新的計(jì)算平臺(tái)，也就是智能計(jì)算做好抽象和封裝，重新定義人機(jī)交互，為開(kāi)發(fā)者提供更簡(jiǎn)單、更流暢的開(kāi)發(fā)體驗(yàn)。”百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖近期表示。

過(guò)去一年，大模型不斷演進(jìn)，已開(kāi)始深度重構(gòu)人機(jī)交互。例如，隨著NLP的成熟，通過(guò)自然語(yǔ)言處理編程不再是無(wú)法落地的事情。事實(shí)上，由于應(yīng)用場(chǎng)景、技術(shù)發(fā)展、語(yǔ)言競(jìng)爭(zhēng)等因素，編程早已陷入“巴別塔魔咒”之中，單常見(jiàn)的計(jì)算機(jī)編程語(yǔ)言便有C語(yǔ)言、C++、Java、Python、Go等等。這導(dǎo)致編程不得不面向過(guò)程與對(duì)象，而無(wú)法正視需求。

當(dāng)編程過(guò)程變?yōu)殚_(kāi)發(fā)者表達(dá)愿望的過(guò)程時(shí)，整個(gè)操作系統(tǒng)的迭代便是題中之義。例如底層硬件，過(guò)去以CPU的算力為主，主要依賴低延遲、高復(fù)雜性運(yùn)算，應(yīng)用于算數(shù)與邏輯運(yùn)算。而誕生于圖形渲染的GPU則依賴于高吞吐量、低復(fù)雜性運(yùn)算，長(zhǎng)于處理大規(guī)模數(shù)據(jù)集。

此外，大模型的出現(xiàn)將人類(lèi)知識(shí)壓縮，操作系統(tǒng)管理的對(duì)象也悄然發(fā)生了改變。

AI大模型從最初的框架構(gòu)建，逐步走到落地階段。然而，隨著AI大模型深入到千行百業(yè)中，市場(chǎng)開(kāi)始意識(shí)到通用大模型雖然功能強(qiáng)大，但卻難以滿足個(gè)性化需求，導(dǎo)致服務(wù)商成為“高科技施工隊(duì)”，而用戶遇到問(wèn)題處于兩眼一抹黑的極端情況。

“上云容易下云難”，過(guò)去幾年，部分行業(yè)在上云與下云之間反復(fù)橫跳。

南方某醫(yī)療機(jī)構(gòu)技術(shù)中心負(fù)責(zé)人此前提到，因?yàn)橐话咽侄家庾R(shí)到上云是一種趨勢(shì)，在一次會(huì)后，便拍上云。他們先在業(yè)務(wù)量不大的分院將影像歸檔和通信系統(tǒng)上云，等到成本、應(yīng)用、維護(hù)等一系列驗(yàn)證有效后再?gòu)?fù)刻到總部。然而，當(dāng)時(shí)的云上系統(tǒng)多次出現(xiàn)變慢，也曾受宕機(jī)拖累。

“我們排查不出問(wèn)題，找云服務(wù)廠商、影像歸檔和通信系統(tǒng)廠商、檢查本地系統(tǒng)，而且還要在院里協(xié)調(diào)各部門(mén)，簡(jiǎn)直自找麻煩。”最終，這家醫(yī)療機(jī)構(gòu)決定下云，花錢(qián)將數(shù)據(jù)遷移回來(lái)，回到此前“膈應(yīng)”的老系統(tǒng)。

各行各業(yè)面臨的共性問(wèn)題，如今似乎看到了答案。

4月16日，Create2024百度AI開(kāi)發(fā)者大會(huì)期間，百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖正式發(fā)布了新一代智能計(jì)算操作系統(tǒng)——萬(wàn)源。

萬(wàn)源主要由Kernel（內(nèi)核）、Shell（外殼）、Toolkit（工具）三層構(gòu)成。并且第一次增加了硬件和軟件以外的資源，也就是被大模型壓縮的世界知識(shí)。通過(guò)對(duì)AI原生時(shí)代的智能計(jì)算平臺(tái)進(jìn)行抽象與封裝設(shè)計(jì)，為用戶屏蔽掉云原生系統(tǒng)與異構(gòu)算力的復(fù)雜性，提升AI原生應(yīng)用開(kāi)發(fā)效率與體驗(yàn)。

這意味著，模型與AI原生開(kāi)發(fā)的操作、算力、語(yǔ)言等門(mén)檻的進(jìn)一步下放。更關(guān)鍵的是，百度憑此“橋接”不同開(kāi)發(fā)深度的生態(tài)以及其中的不同角色，一個(gè)需求驅(qū)動(dòng)的動(dòng)態(tài)耦合的大系統(tǒng)就此形成。

“一云多芯”發(fā)起算力革命

每個(gè)時(shí)代都有其對(duì)應(yīng)的底層載體作支撐，工業(yè)革命的蒸汽機(jī)、發(fā)動(dòng)機(jī)或是信息時(shí)代的CPU均是如此。因循此邏輯，AIGC開(kāi)啟的全面智能化同樣需要必須一個(gè)核心載體作為支撐，這便是上文提到的智能計(jì)算系統(tǒng)。

值得注意的是，智能計(jì)算并非既往計(jì)算技術(shù)的替代或是簡(jiǎn)單整合。相反，它是一種計(jì)算形式，根據(jù)任務(wù)要求系統(tǒng)地、全面地優(yōu)化現(xiàn)有的計(jì)算方法和資源來(lái)解決實(shí)際問(wèn)題。

要知道，算力早在在過(guò)去一年多內(nèi)便被公認(rèn)為是制約AIGC商業(yè)化與進(jìn)一步發(fā)展的卡點(diǎn)，即使中國(guó)算力總規(guī)模位居全球第二，算力規(guī)模近5年更是年均增速近30％，算力卡脖子的焦慮依舊蔓延于行業(yè)上空——英偉達(dá)GPU一“芯”難求，而向開(kāi)發(fā)者提供GPU托管服務(wù)的“算力黃牛”CoreWeave卻在短短四年內(nèi)估值增長(zhǎng)至560億元。

為了彌合算力供需之間的溝壑，也讓算力更好用，萬(wàn)源為智能計(jì)算打出的“銀彈”是百舸·AI異構(gòu)計(jì)算平臺(tái)。

在萬(wàn)源的內(nèi)核層，在算力資源管理方面，百度百舸·AI異構(gòu)計(jì)算平臺(tái)針對(duì)大模型訓(xùn)練、推理等任務(wù)，對(duì)智算集群的設(shè)計(jì)、調(diào)度、容錯(cuò)等環(huán)節(jié)進(jìn)行了專(zhuān)項(xiàng)優(yōu)化。目前，百舸能夠?qū)崿F(xiàn)萬(wàn)卡集群上的模型有效訓(xùn)練時(shí)長(zhǎng)占比超過(guò)98.8%，線性加速比、帶寬有效性分別高達(dá)95%，算力效能業(yè)界領(lǐng)先。

要知道，即使是在國(guó)內(nèi)頂尖的大模型廠商的視域內(nèi)，模型有效訓(xùn)練時(shí)長(zhǎng)占比達(dá)到90%的智算集群，大多都還局限于千卡集群。此外，百舸更關(guān)鍵的突破在于“一云多芯”在模型訓(xùn)練場(chǎng)景中的優(yōu)異表現(xiàn)，稱得上是從根本上緩解算力焦慮。

目前，百舸能夠兼容昆侖芯、昇騰、海光DCU、英偉達(dá)、英特爾等國(guó)內(nèi)外主流AI芯片，支持用戶以最小代價(jià)完成算力適配。

過(guò)去，智算集群中的多個(gè)模型訓(xùn)練任務(wù)往往是單一廠商芯片服務(wù)于單一任務(wù)，不論是不同廠商芯片算力切分、芯片間通信效率或是根本的模型訓(xùn)練效率問(wèn)題，都使得算力焦慮在在硬件差異之下被無(wú)限放大。

不過(guò)，在百舸的智能調(diào)度下，不同廠商芯片在單一任務(wù)混合訓(xùn)練已經(jīng)成為現(xiàn)實(shí)，且百卡規(guī)模性能損失不超過(guò)3%，千卡規(guī)模性能損失不超過(guò)5%。百度方面表示，百舸平臺(tái)的應(yīng)用能最大程度上屏蔽硬件之間差異，幫助用戶擺脫單一芯片的依賴，實(shí)現(xiàn)更優(yōu)成本，打造更具彈性的供應(yīng)鏈體系。

面對(duì)業(yè)內(nèi)領(lǐng)先的重大突破，百度內(nèi)部狂喜的同時(shí)也有些無(wú)奈。“以這么小的性能損耗完成混合多種芯片的單任務(wù)訓(xùn)練，業(yè)界基本沒(méi)有廠商能做到，甚至我們的一些用戶都不敢相信這是真的”。

當(dāng)硬件差異在計(jì)算調(diào)度層面被盡可能抹平后，模型訓(xùn)練的成本與使用門(mén)檻也將隨之降低，甚至直擊算力需求與供給的錯(cuò)配也未嘗不可。在硬件設(shè)施未有根本性變化的情況下，百度的底層技術(shù)打響了智能算力革命的發(fā)令槍。

授人以漁，重塑開(kāi)發(fā)生態(tài)

借由對(duì)智能的管理能力，萬(wàn)源得以成為百度“橋接”算力效能與應(yīng)用創(chuàng)新的橋梁，Kernel（內(nèi)核）、Shell（外殼）、ToolKit（工具）三層高效互聯(lián)起來(lái)，并形成了端到端的效能優(yōu)化閉環(huán)。

內(nèi)核層除了百舸·AI異構(gòu)計(jì)算平臺(tái)之外，還包含不同規(guī)格文心模型和第三方模型，外殼層是解決模型的管理、調(diào)度與二次開(kāi)發(fā)ModelBuilder，而工具層則是具體應(yīng)用的開(kāi)發(fā)平臺(tái)即AgentBuilder、AppBuilder。

行業(yè)視域下，大多模型服務(wù)商均在2024年前后推出了觸達(dá)C端的開(kāi)發(fā)工具，面向C端用戶的封裝應(yīng)用、面向開(kāi)發(fā)者的AI原生開(kāi)發(fā)工具以及企業(yè)側(cè)的精細(xì)定制化MaaS不一而足。百度根據(jù)基礎(chǔ)設(shè)施、模型和AI原生應(yīng)用構(gòu)建三種不同開(kāi)發(fā)深度而設(shè)計(jì)的分層于業(yè)內(nèi)并非鮮見(jiàn)。

但難能可貴的是，百度通過(guò)萬(wàn)源，更進(jìn)一步地將相互隔離的小體系整合成為一個(gè)大的體系。閉環(huán)之內(nèi)，用戶、開(kāi)發(fā)者與企業(yè)側(cè)三種角色都能共享生態(tài)內(nèi)的計(jì)算資源與模型能力來(lái)進(jìn)行高效開(kāi)發(fā)。

用戶或開(kāi)發(fā)者可以通過(guò)自然語(yǔ)言的形式，以極少的計(jì)算資源進(jìn)行有針對(duì)性的智能體等AI原生應(yīng)用開(kāi)發(fā)。例如，百度CEO李彥宏在大會(huì)上演示的“新加坡旅游局”智能體，只需在直接生成的基礎(chǔ)智能體之上添加知識(shí)庫(kù)內(nèi)容，即可在數(shù)分鐘內(nèi)打造一個(gè)經(jīng)驗(yàn)豐富的專(zhuān)屬“背包客”。

正如沈抖所言，“隨著大模型技術(shù)的不斷演進(jìn)，通過(guò)自然語(yǔ)言進(jìn)行編程正在成為現(xiàn)實(shí)。編程將不再面向過(guò)程或者面向?qū)ο�，而是面向需�?rdquo;。百度以萬(wàn)源為基底，向業(yè)界提供了一個(gè)達(dá)到“編輯器”級(jí)別的開(kāi)發(fā)工具與分發(fā)平臺(tái)，帶動(dòng)AI原生應(yīng)用進(jìn)入下一階段。

端云協(xié)同的飛輪

一個(gè)開(kāi)發(fā)生態(tài)的初步完善僅是開(kāi)啟下一個(gè)想象空間的第一步，我們需要尋找的還有展現(xiàn)開(kāi)發(fā)價(jià)值的載體。

對(duì)于開(kāi)啟智能手機(jī)時(shí)代的“iPhone時(shí)刻”而言，第一個(gè)展現(xiàn)巨大價(jià)值的載體是以《憤怒的小鳥(niǎo)》為代表的移動(dòng)游戲；于AIGC而言，AI原生開(kāi)發(fā)側(cè)的價(jià)值落地在于端側(cè)與端云協(xié)同。

僅需粗略掃視而今的手機(jī)行業(yè)，足見(jiàn)智能手機(jī)+AI已然成為各大手機(jī)廠商的核心戰(zhàn)略。IDC預(yù)計(jì)2024年全球新一代 AI 手機(jī)的出貨量將超過(guò)1.7億部，約占智能手機(jī)整體出貨量的15%，Counterpoint預(yù)計(jì)2027年出貨量達(dá)到5.22億部，滲透率達(dá)到40%。

另一方面，AI的能力觸達(dá)同樣需要一個(gè)距離用戶最近的載體，無(wú)論是個(gè)人數(shù)據(jù)的安全讀取還是進(jìn)一步對(duì)人類(lèi)行為、指令等進(jìn)行分析、梳理，手機(jī)都無(wú)疑是當(dāng)下的絕佳選擇。

事實(shí)上，百度早在本次大會(huì)前便錨定了萬(wàn)源系統(tǒng)的價(jià)值實(shí)現(xiàn)標(biāo)的。2024年1月10日，在榮耀MagicOS 8.0發(fā)布會(huì)及開(kāi)發(fā)者大會(huì)上，榮耀終端有限公司CEO趙明宣布了“百模生態(tài)計(jì)劃”，并與百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖共同宣布，百度智能云成為榮耀大模型生態(tài)戰(zhàn)略合作伙伴。

早在2017年11月，榮耀便發(fā)布了搭載AI應(yīng)用與麒麟970處理器的榮耀view10，在彼時(shí)尚未成型的AI手機(jī)賽道初露崢嶸，近期更是掏出100億真金白銀與2000余項(xiàng)相關(guān)專(zhuān)利，宣告其發(fā)力端側(cè)AI的堅(jiān)定決心。更重要的是，榮耀還是智能手機(jī)賽道的頭部玩家，據(jù)IDC數(shù)據(jù)，去年第四季度榮耀以16.8%份額占比，排名安卓陣營(yíng)第一。

以此前披露的合作細(xì)節(jié)來(lái)看，有別于行業(yè)普遍的拍照、實(shí)時(shí)通話翻譯、智能搜索等簡(jiǎn)單升級(jí)，兩者是通過(guò)MagicOS來(lái)展開(kāi)端云協(xié)同的范式創(chuàng)新——由端側(cè)的榮耀魔法大模型負(fù)責(zé)理解用戶意圖，在后臺(tái)將用戶的簡(jiǎn)單提示轉(zhuǎn)化為更專(zhuān)業(yè)的提示，再由云上的文心大模型提供知識(shí)問(wèn)答、生活建議等專(zhuān)業(yè)服務(wù)。

例如日常助理需求中的“幫我安排日程表”或“幫我設(shè)定運(yùn)動(dòng)規(guī)劃”，魔法大模型會(huì)分析用戶的出行、健康等使用數(shù)據(jù)，生成初步提示詞，以此調(diào)度文心大模型來(lái)生成足夠全面的規(guī)劃。在此過(guò)程中，魔法大模型將通過(guò)端側(cè)防護(hù)網(wǎng)，濾掉敏感信息并確保個(gè)人隱私不上云，來(lái)解決用戶對(duì)個(gè)人數(shù)據(jù)的隱憂。

然而這僅是AI在這個(gè)端云協(xié)同范式下的初步應(yīng)用，更進(jìn)一步的是依據(jù)用戶自行上傳的端側(cè)數(shù)據(jù)而形成的個(gè)人知識(shí)庫(kù)，以極短的鏈路提高勞動(dòng)生產(chǎn)率并延伸腦力的可觸達(dá)空間。

在安全性、可解釋性、易用性等綜合指標(biāo)早已成為AI軍備競(jìng)賽關(guān)鍵的當(dāng)下，打開(kāi)大模型的黑箱從而觸達(dá)公眾認(rèn)知，無(wú)疑是大模型進(jìn)入“創(chuàng)新擴(kuò)散”下一周期的勝負(fù)手。開(kāi)發(fā)者視角下的黑箱在于算法和訓(xùn)練過(guò)程，對(duì)于用戶而言，不可見(jiàn)的黑箱則是模型能力的易用性與普適性。

面對(duì)不同角色的“開(kāi)箱”需求，客制化產(chǎn)品不斷涌現(xiàn)。然而唯有百度率先向底層進(jìn)軍，通過(guò)智能計(jì)算能力大幅降低開(kāi)發(fā)門(mén)檻，將相對(duì)隔離的不同開(kāi)發(fā)與反饋體系融為一體。體系的率先建立往往意味著商業(yè)壁壘，尤其是對(duì)于to B賽道而言。

AI與云的深度融合，端云協(xié)同的深度耦合下，我們亦看到了李彥宏在內(nèi)部講話中堅(jiān)持閉源路線的底氣所在。“搶灘”智能計(jì)算的百度再次在AI軍備競(jìng)賽中保持了身位的領(lǐng)先。

       原文標(biāo)題 : 云+AI治標(biāo)不治本，產(chǎn)業(yè)需要“一云多芯”的AI原生云