IBM研發(fā)基于PCM的個(gè)性化AI芯片,算力是GPU百倍
最近發(fā)表在Nature上的一篇論文中,IBM Research AI團(tuán)隊(duì)用大規(guī)模的模擬存儲(chǔ)器陣列訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)(DNN),達(dá)到了與GPU相當(dāng)?shù)木。研究人員稱,這種“芯片”可以達(dá)到 GPU 280 倍的能源效率,并在同樣面積上實(shí)現(xiàn) 100 倍的算力。這是在下一次AI突破所需要的硬件加速器發(fā)展道路上邁出的重要一步。
IBM Research 研究員 Stefano Ambrogio之前 擔(dān)憂:我們可以在一個(gè)比 GPU 更快的系統(tǒng)上進(jìn)行訓(xùn)練,但如果訓(xùn)練操作不夠精確,那就沒(méi)用。目前為止,還沒(méi)有證據(jù)表明使用這些新型設(shè)備和使用 GPU 一樣精確。”
但在上周發(fā)表在《自然》雜志上的一篇論文中(Equivalent-accuracy accelerated neural-network training using analogue memory),Ambrogio 和他的同事們描述了如何利用全新的模擬存儲(chǔ)器和更傳統(tǒng)的電子組件組合來(lái)制造一個(gè)芯片,該芯片在運(yùn)行速度更快、能耗更少的情況下與 GPU 的精確度相匹配。
新的存儲(chǔ)技術(shù)難以訓(xùn)練深層神經(jīng)網(wǎng)絡(luò)的原因是,這個(gè)過(guò)程需要對(duì)每個(gè)神經(jīng)元的權(quán)重進(jìn)行上下數(shù)千次的刺激,直到網(wǎng)絡(luò)完全對(duì)齊。Ambrogio 說(shuō),改變這些設(shè)備的電阻需要重新配置它們的原子結(jié)構(gòu),而這個(gè)過(guò)程每次都不相同。刺激的力度也并不總是完全相同,這導(dǎo)致神經(jīng)元權(quán)重不精確的調(diào)節(jié)。
因此,研究人員創(chuàng)造了“突觸單元”來(lái)解決這個(gè)問(wèn)題,每個(gè)單元都對(duì)應(yīng)網(wǎng)絡(luò)中的單個(gè)神經(jīng)元,既有長(zhǎng)期記憶,也有短期記憶。每個(gè)單元由一對(duì)相變存儲(chǔ)器 ( PCM ) 單元和三個(gè)晶體管和一個(gè)電容器的組合構(gòu)成,相變存儲(chǔ)器單元將重量數(shù)據(jù)存儲(chǔ)在其電阻中,電容器將重量數(shù)據(jù)存儲(chǔ)為電荷。
PCM 是一種“非易失性存儲(chǔ)器”,意味著即使沒(méi)有外部電源,它也保留存儲(chǔ)的信息,而電容器是“易失性的”,因此只能保持其電荷幾毫秒。但電容器沒(méi)有 PCM 器件的可變性,因此可以快速準(zhǔn)確地編程。
當(dāng)神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)圖片訓(xùn)練后可以進(jìn)行分類任務(wù)時(shí),只有電容器權(quán)重被更新了。在觀察了數(shù)千張圖片之后,權(quán)重會(huì)被傳輸?shù)?PCM 單元以長(zhǎng)期存儲(chǔ)。認(rèn)為最終的芯片會(huì)被設(shè)計(jì)為與 GPU 協(xié)同工作的形式,以處理全連接層的計(jì)算,同時(shí)執(zhí)行其他任務(wù)。他還認(rèn)為處理全連接層的有效方法可以被擴(kuò)展到其它更廣泛的領(lǐng)域。
Ambrogio 表示主要有兩種方向的應(yīng)用:將 AI 引入個(gè)人設(shè)備,以及提高數(shù)據(jù)中心的運(yùn)行效率。但明顯其更具吸引力的優(yōu)勢(shì)在于創(chuàng)造個(gè)性化的 AI。
IBM2018市場(chǎng)戰(zhàn)略:
截至今年3月31日,IBM2018年第一季度的營(yíng)收為191億美元,同比增長(zhǎng)5%。繼上個(gè)季度后,再次結(jié)束連續(xù)22個(gè)季度下滑的局面,第二次實(shí)現(xiàn)營(yíng)收增長(zhǎng)。IBM預(yù)計(jì)到今年年底將達(dá)到400億美元的戰(zhàn)略要求。
IBM所謂的“戰(zhàn)略必要性”收入,即未來(lái)增長(zhǎng)產(chǎn)品和服務(wù),例如云、認(rèn)知計(jì)算、沃森、分析、移動(dòng)和安全等業(yè)務(wù),在過(guò)去12個(gè)月中為收入377億美元,增長(zhǎng)12%,占IBM收入的47%。
6月6日,透過(guò)2018 IBM社交協(xié)作峰會(huì),IBM發(fā)布了一系列基于Watson技術(shù)的社交協(xié)作解決方案,并向業(yè)界展示了眾多深入各行業(yè)企業(yè)業(yè)務(wù)流程的成功案例。無(wú)論是醫(yī)藥、金融、制造業(yè)等傳統(tǒng)行業(yè),或是獨(dú)角獸級(jí)別的初創(chuàng)企業(yè),IBM企業(yè)社交協(xié)作已經(jīng)全面深入企業(yè)業(yè)務(wù)深水區(qū),成為其數(shù)字化轉(zhuǎn)型中不可或缺的助力
2018年,IBM在企業(yè)社交協(xié)作方面另一個(gè)值得期待的動(dòng)作就是即將推出DominoV10版本。據(jù)悉,輕代碼/無(wú)代碼應(yīng)用將是其主要特點(diǎn)。相信在輕量化無(wú)代碼的趨勢(shì)下,越來(lái)越多企業(yè)用戶可以脫離軟件開(kāi)發(fā)商和較長(zhǎng)的開(kāi)發(fā)周期,更便捷更快速地應(yīng)用IBM多年積累的企業(yè)協(xié)作技術(shù)。
在過(guò)去幾年:在人工智能領(lǐng)域 IBM 簽下 16000 份合同、400 份區(qū)塊鏈合同!在量子計(jì)算領(lǐng)域,也正與 JP摩根大通和戴姆勒等伙伴合作實(shí)施多個(gè)項(xiàng)目的合作。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會(huì)
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
推薦專題
- 1 Intel宣布40年來(lái)最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價(jià)骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國(guó)產(chǎn)AI芯片公司破產(chǎn)!白菜價(jià)拍賣
- 5 具身智能火了,但規(guī)模落地還需時(shí)間
- 6 國(guó)產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 7 三次錯(cuò)失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來(lái)
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市