訂閱
糾錯
加入自媒體

墨芯完成智譜大模型適配黃金認(rèn)證,助推國產(chǎn)算力商業(yè)化進程

在推動大模型算力量級提升的道路上,稀疏計算引領(lǐng)者墨芯人工智能(以下簡稱“墨芯”)再次邁出重要的一步。近日,墨芯旗下產(chǎn)品S30計算卡經(jīng)過智譜AI內(nèi)部專家的嚴(yán)格測評,榮獲黃金級別認(rèn)證,充分顯示了其與智譜AI(以下簡稱“智譜”)的ChatGLM2-6B大模型在推理與微調(diào)方面的高度兼容性和卓越適配能力。

墨芯獲得智譜ChatGLM2-6B模型黃金認(rèn)證證書

除了上述已經(jīng)成功適配的開源大模型ChatGLM2-6B外,墨芯正通過基于S30計算卡的定制化算力為智譜提供一體化解決方案,同時也積極參與到智譜其他閉源商業(yè)大模型的兼容性適配中。這一過程也加速了智譜AI大模型的商業(yè)化步伐。

墨芯的助力,不僅是對智譜現(xiàn)有AI產(chǎn)品矩陣的算力技術(shù)加持,更是對其未來AI技術(shù)應(yīng)用領(lǐng)域落地的一次積極探索。通過這種合作,墨芯和智譜AI共同推動了其大模型技術(shù)的商業(yè)化進程,加快了其在多個行業(yè)中的實際應(yīng)用和普及。墨芯的S30計算卡作為這一合作的關(guān)鍵組成部分,其強大的算力和高效的適配能力不僅加速了智譜AI大模型的開發(fā)和部署,也為之后在更多領(lǐng)域的合作提供了堅實的基礎(chǔ),進一步推動了國產(chǎn)大模型的廣泛應(yīng)用和行業(yè)滲透。

墨芯S30計算卡

此外,S30計算卡在技術(shù)創(chuàng)新上的突破,特別是在稀疏計算和AI算法優(yōu)化方面的先進性,為智譜AI的大模型提供了強大的后端支撐。這不僅加強了智譜AI大模型的性能和適用性,而且在促進國產(chǎn)AI技術(shù)的商業(yè)化和產(chǎn)業(yè)化方面發(fā)揮了重要作用。通過這種強強聯(lián)手模式,墨芯和智譜AI共同展現(xiàn)了國內(nèi)AI技術(shù)在未來無限的競爭力和創(chuàng)新潛力。

通過本次認(rèn)證的S30計算卡搭載墨芯首顆Antoum??芯片,以其高達32倍稀疏率的強勁AI算力,專注服務(wù)與數(shù)據(jù)中心AI推理的多元需求。其應(yīng)用領(lǐng)域覆蓋了互聯(lián)網(wǎng)、通信、智慧城市建設(shè)、生命科學(xué)、自動駕駛等關(guān)鍵行業(yè),體現(xiàn)了其廣泛的適用性和靈活性。

墨芯的雙稀疏算法和Antoum?架構(gòu)的創(chuàng)新,使S30在同行業(yè)產(chǎn)品中處于領(lǐng)先地位,更顯著優(yōu)化了客戶的總擁有成本(TCO)。

S30計算卡在行業(yè)內(nèi)以其卓越的推理加速性能始終保持領(lǐng)先。此前,在9月舉辦的最新一屆的全球權(quán)威測評MLPerf Inference 3.1推理評測中,墨芯S30計算卡,以其無與倫比的性能,在處理GPT-J(60億參數(shù))大模型推理任務(wù)時,無論是單卡還是多卡配置,均力壓群雄,榮登榜首。這是墨芯連續(xù)第三次在MLPerf推理評測中取得領(lǐng)先成績,進一步夯實其在AI算力領(lǐng)域的領(lǐng)導(dǎo)地位。

墨芯S30計算卡在GPT-J-99模型中的性能表現(xiàn)

ChatGLM2-6B模型由智譜AI與清華大學(xué)KEG實驗室共同研發(fā),是一款功能強大的開源中英雙語對話模型。其在沿襲了初代模型的流暢對話和低部署難度的基礎(chǔ)上,進一步提升了推理速度和降低顯存占用,整體性能更加出色。

S30計算卡的黃金認(rèn)證,不僅是其技術(shù)實力的顯著證明,更是墨芯賦能智譜大模型商業(yè)化進程的關(guān)鍵一環(huán),不僅證實了S30計算卡在運行智譜ChatGLM2-6B大模型時的穩(wěn)定性和高吞吐能力,也標(biāo)志著墨芯與智譜在共同推進大模型技術(shù)發(fā)展和生態(tài)建設(shè)方面的成功合作。未來,墨芯人工智能將與智譜AI在更多領(lǐng)域展開廣闊合作,共同致力于推動國產(chǎn)AI大模型生態(tài)圈的協(xié)同進步與創(chuàng)新。

關(guān)于智譜AI

北京智譜華章科技有限公司(簡稱“智譜AI”)致力于打造新一代認(rèn)知智能大模型,專注于做大模型的中國創(chuàng)新。公司合作研發(fā)了中英雙語千億級超大規(guī)模預(yù)訓(xùn)練模型GLM-130B,并基于此推出對話模型ChatGLM,開源單卡版模型ChatGLM-6B。同時,團隊還打造了AIGC模型及產(chǎn)品矩陣,包括AI提效助手智譜清言、高效率代碼模型CodeGeeX、多模態(tài)理解模型CogVLM和文生圖模型CogView等。公司踐行Model as a Service(MaaS)的市場理念,推出大模型MaaS開放平臺,打造高效率、通用化的“模型即服務(wù)”AI開發(fā)新范式。

關(guān)于墨芯人工智能(Moffett AI)

墨芯人工智能是稀疏計算引領(lǐng)者,致力于提供云端和終端AI計算平臺和服務(wù)。通過全球領(lǐng)先的稀疏計算技術(shù)優(yōu)勢,打造軟硬協(xié)同的新一代智能計算平臺。產(chǎn)品性能位居行業(yè)領(lǐng)先,相較行業(yè)主流產(chǎn)品,在算力、能效比與成本等方面均實現(xiàn)數(shù)量級優(yōu)化。面向互聯(lián)網(wǎng)、運營商、金融、制造、醫(yī)療、交通、能源、生命科學(xué)、自動駕駛等眾多行業(yè)與場景,提供高算力、低功耗、高性價比的AI算力服務(wù),賦能前沿科技的進步與社會的智能化升級。

聲明: 本網(wǎng)站所刊載信息,不代表OFweek觀點?帽菊靖寮,務(wù)經(jīng)書面授權(quán)。未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制、翻譯及建立鏡像,違者將依法追究法律責(zé)任。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標(biāo)題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號