技術(shù)創(chuàng)新:蘋果在閃存上存儲(chǔ)大型語(yǔ)言模型(LLM)引領(lǐng)未來(lái)AI發(fā)展
(本篇文篇章共1135字,閱讀時(shí)間約1分鐘)
2023年12月22日,據(jù)多家媒體報(bào)道,蘋果正積極探索在閃存上存儲(chǔ)大型語(yǔ)言模型(LLM)的技術(shù)創(chuàng)新,并計(jì)劃將其引入iPhone、iPad和Mac等設(shè)備,以在資源有限的環(huán)境中提高人工智能(AI)的運(yùn)行效率。這一突破性進(jìn)展將有望讓強(qiáng)大的Siri、實(shí)時(shí)語(yǔ)言翻譯以及融入攝影和增強(qiáng)現(xiàn)實(shí)的AI功能成為未來(lái)iPhone的獨(dú)特賣點(diǎn)。
傳統(tǒng)上,大型語(yǔ)言模型需要占用大量CPU和內(nèi)存資源。為了解決這一問題,蘋果的研究人員正在探索在有限內(nèi)存設(shè)備上存儲(chǔ)LLM的可能性。在一篇新發(fā)表的論文中,蘋果詳細(xì)介紹了他們利用閃存芯片存儲(chǔ)AI模型數(shù)據(jù)的創(chuàng)新技術(shù)。由于iPhone和Mac計(jì)算機(jī)上閃存大量可用,這項(xiàng)技術(shù)使用了一種稱為“Windowing”的方法,通過(guò)重復(fù)使用已處理的數(shù)據(jù),減少了對(duì)連續(xù)內(nèi)存獲取的需求,從而提高了整個(gè)過(guò)程的速度。
具體而言,兩種關(guān)鍵技術(shù)被引入,分別是“窗口化(Windowing)”和“行列捆綁(Row-Column Bundling)”。前者實(shí)現(xiàn)了數(shù)據(jù)的有效分組,減少了對(duì)內(nèi)存的頻繁讀取,而后者更有效地對(duì)數(shù)據(jù)進(jìn)行捆綁,使得AI模型能夠更快地從閃存中讀取數(shù)據(jù)并提高其理解和生成語(yǔ)言的速度。
根據(jù)研究人員的介紹,這兩項(xiàng)技術(shù)的引入將使AI模型在iPhone可用RAM大小的兩倍范圍內(nèi)運(yùn)行,極大地提高了在標(biāo)準(zhǔn)處理器上的速度,最高可達(dá)5倍,在圖形處理器上更是可達(dá)25倍。
蘋果對(duì)AI的重視不斷顯現(xiàn),從自家聊天機(jī)器人Apple GPT的推出到計(jì)劃中的iPhone 16系列搭載升級(jí)麥克風(fēng),以提升語(yǔ)音輸入功能。此外,有傳言稱,iOS 18將在明年正式到來(lái)時(shí)引入某種形式的生成式AI,進(jìn)一步將蘋果推向人工智能技術(shù)的前沿。
這一技術(shù)創(chuàng)新有望為未來(lái)iPhone帶來(lái)更強(qiáng)大的AI功能,包括更智能的Siri、實(shí)時(shí)語(yǔ)言翻譯以及在攝影和增強(qiáng)現(xiàn)實(shí)領(lǐng)域的復(fù)雜AI驅(qū)動(dòng)功能。蘋果的生成式AI模型,代號(hào)為“Ajax”,被認(rèn)為將與OpenAI的GPT-3和GPT-4競(jìng)爭(zhēng),具有高度復(fù)雜性和強(qiáng)大的語(yǔ)言理解和生成能力,為蘋果的生態(tài)系統(tǒng)帶來(lái)更深層次的AI整合。
*免責(zé)聲明:以上內(nèi)容整理自網(wǎng)絡(luò),僅供交流學(xué)習(xí)之用。如有內(nèi)容、版權(quán)問題,請(qǐng)留言與我們聯(lián)系進(jìn)行刪除。
原文標(biāo)題 : 技術(shù)創(chuàng)新:蘋果在閃存上存儲(chǔ)大型語(yǔ)言模型(LLM)引領(lǐng)未來(lái)AI發(fā)展
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會(huì)
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
推薦專題
- 1 Intel宣布40年來(lái)最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價(jià)骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國(guó)產(chǎn)AI芯片公司破產(chǎn)!白菜價(jià)拍賣
- 5 具身智能火了,但規(guī)模落地還需時(shí)間
- 6 國(guó)產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 7 三次錯(cuò)失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來(lái)
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市