世界人工智能大會:大模型開啟
文/侯煜
編輯/羅卿
2023年可以稱得上是大模型發(fā)展的元年,2月份,創(chuàng)新型公司OpenAI連同其發(fā)布的ChatGPT一夜爆火。之后,科技公司的大模型開始陸續(xù)亮相。
按照人們的共識,工業(yè)1.0是蒸汽機(jī)時(shí)代,工業(yè)2.0是電氣化時(shí)代,工業(yè)3.0是信息化時(shí)代,工業(yè)4.0則是利用信息化技術(shù)促進(jìn)產(chǎn)業(yè)變革的時(shí)代。大模型的出現(xiàn)將整個(gè)科技行業(yè)推向4.0 pro時(shí)代。新的技術(shù)時(shí)代的到來,讓實(shí)體企業(yè)迫不及待地想要擁抱大模型技術(shù),推動設(shè)計(jì)、銷售、服務(wù)等環(huán)節(jié)的智能化升級,提升生產(chǎn)、經(jīng)營、管理效率。
于是乎,大模型從面世之初的拼算力、拼規(guī)模,逐漸開始變得更細(xì)分、更垂直、更專業(yè)。云廠商也在試圖降低大模型的使用成本,讓大模型更好地與實(shí)體技術(shù)結(jié)合,在增效的同時(shí),維持可控的成本。
近日的世界人工智能大會(WAIC2023)又是一個(gè)大廠秀實(shí)力和表達(dá)行業(yè)洞見的舞臺,各位大廠大模型的推動者各抒己見,以下是會議的部分發(fā)言實(shí)錄。
騰訊云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生:騰訊數(shù)智人“入職”了130多個(gè)行業(yè)
事實(shí)上,雖然通用大模型很強(qiáng)大,但并不一定能解決很多企業(yè)的具體問題。大模型在產(chǎn)業(yè)場景中是否真正可靠、可用?怎樣才能保護(hù)好企業(yè)數(shù)據(jù)產(chǎn)權(quán)和隱私?如何降低大模型的使用成本?這些都是企業(yè)需要考慮的現(xiàn)實(shí)問題。
企業(yè)基于行業(yè)大模型構(gòu)建自己的專屬模型,也許是更優(yōu)的選項(xiàng)。同時(shí)也要借助高效的專業(yè)工具,不斷優(yōu)化、迭代模型,以滿足企業(yè)和市場持續(xù)變化的需求。
雖然通用大模型整體技術(shù)水平在不斷提升,但并不聚焦。通用大模型可以在100個(gè)場景中,解決70%-80%的問題,但未必能100%滿足企業(yè)某個(gè)場景的需求。
每個(gè)企業(yè)都可以基于用專業(yè)知識和數(shù)據(jù)訓(xùn)練出來的行業(yè)大模型,再加上企業(yè)自己的數(shù)據(jù)進(jìn)行精調(diào),建構(gòu)獨(dú)有的“專屬模型”,更高效地打造出可用的智能服務(wù)。
實(shí)際上,過去5年,人工智能技術(shù)和產(chǎn)品也在各行各業(yè)落地生根,比如騰訊的數(shù)智人已“入職”了130多個(gè)行業(yè),擔(dān)任金融客服、虛擬主播等“數(shù)智員工”,為用戶提供個(gè)性化的服務(wù)。
基于騰訊云TI平臺打造的行業(yè)大模型精選商店,面向金融、文旅、政務(wù)、醫(yī)療、傳媒、教育等10大行業(yè),提供超過50個(gè)解決方案。在這些能力模型基礎(chǔ)上,合作伙伴只需要加入自己獨(dú)有的場景數(shù)據(jù),就可以快速生成自己的“專屬模型”。
百度CTO王海峰:文心大模型3.5,讓知識點(diǎn)更具體和細(xì)分
百度首席技術(shù)官王海峰發(fā)言指出,百度文心大模型現(xiàn)已升級為文心大模型3.5,已實(shí)現(xiàn)基礎(chǔ)模型升級、精調(diào)技術(shù)創(chuàng)新、知識點(diǎn)增強(qiáng)、邏輯推理增強(qiáng)等,模型效果提升50%,訓(xùn)練速度提升2倍,推理速度提升30倍。
據(jù)王海峰介紹,在基礎(chǔ)模型訓(xùn)練上,文心大模型3.5采用了飛槳自適應(yīng)混合并行訓(xùn)練技術(shù)及混合精度計(jì)算策略,并采用多種策略優(yōu)化數(shù)據(jù)源及數(shù)據(jù)分布,加快了模型迭代速度,顯著提升了模型效果和安全性,同時(shí)還創(chuàng)新了多類型多階段有監(jiān)督精調(diào)、多層次多粒度獎(jiǎng)勵(lì)模型、多損失函數(shù)混合優(yōu)化策略、雙飛輪結(jié)合的模型優(yōu)化等技術(shù),進(jìn)一步提升模型效果及場景適配能力。
在知識增強(qiáng)和檢索增強(qiáng)基礎(chǔ)上,文心大模型3.5提出了“知識點(diǎn)增強(qiáng)技術(shù)”,對用戶輸入的查詢、問題等進(jìn)行分析理解,為大模型注入更具體、詳細(xì)、專業(yè)的知識點(diǎn),顯著提升大模型對世界知識的掌握和運(yùn)用。此外,文心大模型3.5還新增了插件機(jī)制,目前文心一言已對外發(fā)布官方插件百度搜索和ChatFile。
高通侯紀(jì)磊:創(chuàng)新和優(yōu)化全棧式AI,加速應(yīng)用落地
高通全球副總裁兼高通 AI 研究負(fù)責(zé)人侯紀(jì)磊介紹:在成本方面,生成式 AI 通常參數(shù)體量巨大,如果在端側(cè)部署,能夠推動成本的顯著降低。而在 AI 數(shù)字助手方面,手機(jī)、駕艙、PC 等使用場景,端側(cè) AI 則能夠很好地滿足私密性、個(gè)性化的需求。"
據(jù)侯紀(jì)磊介紹,早在十幾年前,高通便開始了 AI 方面的研發(fā),其中一個(gè)重要研究方向就是高效能 AI,在包括硬件、算法和軟件等層面進(jìn)行了大量的研發(fā)創(chuàng)新。
在高效硬件方面,通過對高通移動平臺中 CPU、GPU、NPU 等不同單元進(jìn)行優(yōu)化,最終使得AI針對不同任務(wù),能夠選擇合適的計(jì)算模塊運(yùn)行,侯紀(jì)磊認(rèn)為這是高通端側(cè) AI 非常顯著的特點(diǎn)。在算法層面,高通擁有一支頂尖的深度神經(jīng)網(wǎng)絡(luò)算法團(tuán)隊(duì),有很多原創(chuàng)性的研究成果。在軟件方面,在面向深度學(xué)習(xí)的軟件加速 runtime 以及 SDK/ 開發(fā)框架方面,高通對于客戶以及開發(fā)者都做出了很好的支持。
" 因此,高通 AI 研究的一個(gè)非常重要的原則,就是全棧式的 AI 創(chuàng)新和優(yōu)化。通過跨層的模型、硬件和軟件創(chuàng)新加速 AI 應(yīng)用,這種早期研發(fā)和技術(shù)發(fā)明對于引領(lǐng)生態(tài)系統(tǒng)發(fā)展至關(guān)重要,而最終將技術(shù)提供給商業(yè)團(tuán)隊(duì),并通過部署過程中的收獲來影響未來的研究,形成正向循環(huán)。" 侯紀(jì)磊說。
據(jù)侯紀(jì)磊介紹,高通在高效能 AI 研發(fā)中,一個(gè)重要的部分是整體模型效率研究,目的是在多個(gè)方向縮減 AI 模型,使其在硬件上高效運(yùn)行。
比如在量化方面,學(xué)習(xí)在保持所需精度的同時(shí)降低比特精度;在條件計(jì)算方面,學(xué)習(xí)僅基于輸入執(zhí)行大模型圖例模型部分組件;在神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索方面,學(xué)習(xí)設(shè)計(jì)更小的神經(jīng)網(wǎng)絡(luò),能夠在真實(shí)硬件上媲美或超過人工設(shè)計(jì)架構(gòu);在編譯方面,學(xué)習(xí)編譯 AI 模型以實(shí)現(xiàn)高效的硬件執(zhí)行等。
" 在量化方面,高通一直在業(yè)界進(jìn)行學(xué)術(shù)研究及落地層面的推動。包括 Stable Diffusion 和 ChatGPT 等最終要在端側(cè)實(shí)現(xiàn),量化一定是非常重要的手段。在高效能的推理方面,整數(shù)的點(diǎn)運(yùn)算是非常重要的方向。在這方面,高通在積極推動相關(guān)學(xué)術(shù)研究,包括在頂級學(xué)術(shù)會議上發(fā)布一些論文的同時(shí),也會定期放到開源的工具包 AIMET 中。通過領(lǐng)先的 AI 研究和快速商業(yè)化,推動行業(yè)向整數(shù)推理和高能效 AI 方向發(fā)展。" 侯紀(jì)磊說。
埃隆·馬斯克:機(jī)器人主導(dǎo)的生產(chǎn)效率將遠(yuǎn)超人類
在未來,人工智能將在人類的世界中扮演重要角色,并對文明產(chǎn)生深遠(yuǎn)的影響。同時(shí),我們也看到了數(shù)字計(jì)算能力的爆炸性增長,其中特別要考慮的一個(gè)指標(biāo)是比例,即數(shù)字計(jì)算、機(jī)器計(jì)算能力與生物計(jì)算能力之間的比例關(guān)系。
具體而言,我們需要考慮人類能夠完成多么復(fù)雜的計(jì)算任務(wù),計(jì)算機(jī)和機(jī)器能夠承擔(dān)的計(jì)算任務(wù)的強(qiáng)度,以及計(jì)算機(jī)計(jì)算能力和人類計(jì)算能力之間的比例。隨著時(shí)間的推移,這一比例不斷增大,意味著機(jī)器與生物之間的計(jì)算能力差距正在進(jìn)一步擴(kuò)大。
因此,在不久的將來,人工智能在整體智能中的地位將逐漸下降,與機(jī)器智能相比,這將是一場根本性而深遠(yuǎn)的變革。這種變革所帶來的影響目前還難以完全理解,但可以肯定的是,這將是人類歷史上最重要的時(shí)期之一。
特斯拉的 Optimus 機(jī)器人目前仍處于開發(fā)階段,屬于較早期的階段。然而,在未來,我們將會看到大量的機(jī)器人存在。因此,我們迫切需要考慮一個(gè)比例的問題:機(jī)器人與人類的比例是多少?
目前的趨勢表明,在某個(gè)階段,機(jī)器人的數(shù)量將超過人類的數(shù)量。而且,機(jī)器人的計(jì)算能力要比人類強(qiáng)大得多,這似乎是一個(gè)發(fā)展的趨勢。
這種趨勢將產(chǎn)生積極的影響,也會帶來消極的影響。積極的影響是,我們將進(jìn)入一個(gè)不再有資源短缺的時(shí)代。這將是一個(gè)充裕的時(shí)代,只要是你想要的東西,就能立刻得到。由于未來世界中機(jī)器人的大量存在,其生產(chǎn)效率將遠(yuǎn)遠(yuǎn)超過人類主導(dǎo)的生產(chǎn)效率,這是一個(gè)巨大的變化。因此,我們必須謹(jǐn)慎行事,以確保最終結(jié)果對人類有益。
我們還需要注意一個(gè)問題,就是對于深度、全面的人工智能要保持警惕,有限制的人工智能和通用人工智能(AGI)是完全不同的情況。通用人工智能很難進(jìn)行明確定義,它是一種比人類在任何領(lǐng)域都要聰明得多的人工智能類型,F(xiàn)在需要一些監(jiān)管者來對其進(jìn)行監(jiān)督,以確保這種深度的人工智能不會對人類造成威脅。
華為輪值董事長胡厚崑:人工智能的發(fā)展,關(guān)鍵是要“走深向?qū)?rdquo;
對于華為來說,我們下一階段要全力推進(jìn)人工智能走深向?qū)。為了?shí)現(xiàn)這個(gè)目標(biāo),我們有兩個(gè)關(guān)鍵舉措:第一,打造強(qiáng)有力的算力底座,支撐中國人工智能產(chǎn)業(yè)的發(fā)展;第二,從通用大模型到行業(yè)大模型,真正讓人工智能服務(wù)好千行百業(yè),服務(wù)好科學(xué)研究。
人工智能的發(fā)展,算力是基礎(chǔ)。但在中國當(dāng)前的情況下,算力在可獲取性和成本方面,都面臨著不小的挑戰(zhàn)。未來希望通過各位同仁的努力,讓算力不再成為人工智能發(fā)展的瓶頸。
生態(tài)對計(jì)算產(chǎn)業(yè)的持續(xù)發(fā)展來說非常關(guān)鍵,也往往是個(gè)瓶頸。四年以來,在全產(chǎn)業(yè)合作伙伴的共同努力下,已初步構(gòu)建起完整的計(jì)算產(chǎn)業(yè)生態(tài)。
在深耕算力的同時(shí),我們還要真正讓人工智能走進(jìn)千行百業(yè),服務(wù)科學(xué)研究。我們認(rèn)為:一方面,要打好基礎(chǔ),持續(xù)提升通用大模型的能力;另一方面,我們在此基礎(chǔ)上,要建好行業(yè)模型,將行業(yè)專有知識、經(jīng)驗(yàn)與大模型能力充分結(jié)合,最終為客戶提供更專業(yè)精準(zhǔn)的解決方案。
我們希望,AI for Science,能為科學(xué)家、科學(xué)工作者帶來更多新思路、新方法、新工具,也為我們的產(chǎn)業(yè)輸入新的動力。
原文標(biāo)題 : 世界人工智能大會:大模型開啟“工業(yè)4.0 pro”時(shí)代
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報(bào)名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報(bào)名中>> OFweek2024中國智造CIO在線峰會
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價(jià)骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價(jià)拍賣
- 5 具身智能火了,但規(guī)模落地還需時(shí)間
- 6 國產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 7 三次錯(cuò)失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市