AI競(jìng)賽來(lái)到下半場(chǎng)，除了各家都在尋找AI落地的使用場(chǎng)景外，他們?cè)桨l(fā)覺(jué)得自己一直被GPU的供應(yīng)所限制。

整個(gè)行業(yè)好像被NVIDIA（英偉達(dá)）牽著鼻子走，老黃能拿出什么樣的GPU，就決定了他們能搞出什么樣的AI來(lái)。

并且，生成式AI越高越大，單靠英偉達(dá)一家，早就沒(méi)法滿(mǎn)足這些AI公司日益膨脹的胃口了。

據(jù)報(bào)道，英偉達(dá)性能最好的芯片 在 2024 年之前就已售空。芯片制造商臺(tái)積電（TSMC）的CEO最近不太樂(lè)觀，他表示英偉達(dá)以及其競(jìng)爭(zhēng)對(duì)手的 GPU 短缺可能會(huì)持續(xù)到 2025 年。

這可不是巨頭們想看到的結(jié)果。所以，微軟等AI主力軍紛紛下場(chǎng)自己搞芯片了。身為電商巨頭的亞馬遜自然不愿意掉隊(duì)，也加入了這場(chǎng)“造芯”大戰(zhàn)。

亞馬遜的量子“芯”

今天，在亞馬遜“AWS re：Invent 2023”活動(dòng)中，亞馬遜計(jì)算部門(mén)資深副總裁 Peter DeSantis推出了亞馬遜的新量子芯片Trainium2 及 Graviton4 處理器。

亞馬遜表示，Trainium2 的性能比 2020 年 12 月推出的第一代 Trainium 提高了 4 倍，能源效率提高了 2 倍。

Tranium2 將在 AWS 云中由 16 個(gè)芯片組成的集群中的 EC Trn2 實(shí)例中使用，在 AWS 的 EC2 UltraCluster 產(chǎn)品中可擴(kuò)展到多達(dá) 100，000 個(gè)芯片。

亞馬遜表示，十萬(wàn)個(gè) Trainium 芯片可提供 65 exaflops 的計(jì)算能力，相當(dāng)于每個(gè)芯片可提供 650 teraflops 的計(jì)算能力。

可能存在復(fù)雜的因素，使得餐巾紙后面的數(shù)學(xué)不一定非常準(zhǔn)確。但假設(shè)單個(gè) Tranium2 芯片確實(shí)可以提供約 200 teraflops 的性能，這使其遠(yuǎn)遠(yuǎn)高于2017 年左右谷歌定制 AI 訓(xùn)練芯片的能力。

亞馬遜表示，由 10 萬(wàn)個(gè)Trainium芯片組成的集群可以在數(shù)周內(nèi)訓(xùn)練出 3000 億個(gè)參數(shù)的 AI 大語(yǔ)言模型。這大約是 OpenAI 的GPT－3大小的 1．75 倍。

亞馬遜沒(méi)有透露何時(shí)可以使用 Trainium2 實(shí)例，只是說(shuō)在“明年的某個(gè)時(shí)候”。

亞馬遜還推出了該公司第四款定制處理器芯片Graviton4，比前代性能提升 30％，內(nèi)核數(shù)增加 50％，內(nèi)存帶寬增加 75％，可以幫助 Amazon EC2 云服務(wù)的各類(lèi)工作負(fù)載提供最佳性?xún)r(jià)比和能效。

這款處理器還對(duì)所有高速物理硬件接口加密來(lái)提高安全性。

亞馬遜聲稱(chēng)，與在 Amazon EC2 上運(yùn)行的上一代 Graviton 處理器Graviton3（但不是更新的Graviton3E ）相比，Graviton4 的計(jì)算性能提高了 30％，核心數(shù)量增加了 50％，內(nèi)存帶寬增加了 75％。

亞馬遜表示，在 Graviton3 的另一次升級(jí)中，Graviton4 的所有物理硬件接口都經(jīng)過(guò)“加密”——表面上可以更好地保護(hù)具有更高加密要求的客戶(hù)的人工智能訓(xùn)練工作負(fù)載和數(shù)據(jù)。

“Graviton4 標(biāo)志著我們?cè)诙潭涛迥陜?nèi)推出的第四代芯片，是我們?yōu)閺V泛的工作負(fù)載構(gòu)建的最強(qiáng)大、最節(jié)能的芯片，”布朗在一份聲明中繼續(xù)說(shuō)道。

“通過(guò)將我們的芯片設(shè)計(jì)重點(diǎn)放在對(duì)客戶(hù)重要的實(shí)際工作負(fù)載上，我們能夠?yàn)樗麄兲峁┳钕冗M(jìn)的云基礎(chǔ)設(shè)施�！�

還有個(gè)新的AI助手

除了這兩款重磅芯片，亞馬遜在活動(dòng)上還發(fā)布了一款全新的AI助手——Q。

按亞馬遜的話(huà)來(lái)說(shuō)，Amazon Q更多的是面向工作場(chǎng)景，不是為消費(fèi)者準(zhǔn)備的。

亞馬遜云科技首席執(zhí)行官亞當(dāng)·塞利普斯基（Adam Selipsky）將其描述為能夠“輕松聊天、生成內(nèi)容和采取行動(dòng)”，“一種新型的生成式人工智能助手，旨在工作中為你提供幫助”。

塞利普斯基說(shuō)，考慮到這個(gè)聊天機(jī)器人的對(duì)話(huà)特性，Q這個(gè)名字來(lái)源于“問(wèn)題”（question）這個(gè)詞。這也是對(duì)詹姆斯·邦德小說(shuō)中角色Q和《星際迷航》中人物的致敬。

要知道，亞馬遜的創(chuàng)始人杰夫·貝佐斯是個(gè)狂熱的《星際迷航》粉。

Amazon Q預(yù)覽版目前已經(jīng)上線(xiàn)，部分功能目前免費(fèi)對(duì)外提供。未來(lái)，亞馬遜最終將向企業(yè)用戶(hù)收取每人每月20美元的費(fèi)用，而為開(kāi)發(fā)人員和IT人員提供功能的版本將收取每人每月25美元。

至此，OpenAI有ChatGPT，微軟有Copilots，谷歌有Bard，亞馬遜也有了Amazon Q。AI四大巨頭聚齊，估計(jì)又要有一番大戰(zhàn)了。

而我們，只想看血流成河！