今(jin)日，英特爾(er)(er)(er)AI產品戰(zhan)略暨Gaudi2新(xin)品發布會在京舉(ju)行。會上，英特爾(er)(er)(er)正式于中國市場推出第二代Gaudi深度學習(xi)加(jia)速(su)器——Habana? Gaudi?2。作(zuo)為英特爾(er)(er)(er)從(cong)云到端(duan)產品組合的重(zhong)要組成，Gaudi2致力于以領先的性價比優(you)勢，加(jia)速(su)AI訓(xun)練及推理，為中國用戶提供(gong)更高的深度學習(xi)性能和效率，從(cong)而成為大規模部署(shu)AI的更優(you)解。
英(ying)特爾于中國市場推出Gaudi2深(shen)度學習加(jia)速(su)器
英特爾致力于通過為客戶提供廣泛的硬件選擇，并支持開放的軟件環境，加速人工智能技(ji)術(shu)的發(fa)展(zhan)。憑借包括至強可擴展(zhan)處(chu)理器和(he)Gaudi2深度學習加速器在內(nei)的產品組合，英特爾正在降低人(ren)工智(zhi)(zhi)能的準入門檻(jian)，并強化(hua)客戶在云端通過(guo)網絡和(he)智(zhi)(zhi)能邊(bian)緣部(bu)署這一關鍵業務技(ji)術(shu)的能力，從(cong)而(er)幫助構建中國人(ren)工智(zhi)(zhi)能的未來。
-- Sandra Rivera
英特爾執行副總裁
兼數據中心(xin)與人工(gong)智能(neng)事業部總(zong)經理(li)
為深度學習而生的
全新Gaudi2訓練加速器
該Gaudi2深度學習加速器暨Gaudi2夾層卡HL-225B，以第一代Gaudi高性能架構為基礎，以多方位性能與能效比提升，加速高性能大語言模型運行。該加速器具備：
● 24個(ge)可編程Tensor處理(li)器核(he)心(xin)(TPCs)
● 21個100Gbps(RoCEv2)以(yi)太網接口
● 96GB HBM2E內存容量
● 2.4TB/秒的總內(nei)存帶寬(kuan)
● 48MB片(pian)上SRAM
● 集成多媒體處理引(yin)擎
Habana? Gaudi?2深度(du)學(xue)習加速器
Gaudi2加速(su)器(qi)(qi)的(de)出色性能(neng)在6月公布(bu)的(de)MLCommons? MLPerf?基(ji)準測試1中(zhong)得(de)(de)到(dao)了(le)充分認證(zheng)，其在GPT-3模(mo)(mo)(mo)型(xing)(xing)、計算機視覺模(mo)(mo)(mo)型(xing)(xing)ResNet-50(使用8個加速(su)器(qi)(qi))、Unet3D(使用8個加速(su)器(qi)(qi))，以及(ji)自然語(yu)言(yan)處(chu)理模(mo)(mo)(mo)型(xing)(xing)BERT(使用8個和64個加速(su)器(qi)(qi))上均(jun)取得(de)(de)了(le)優異(yi)的(de)訓練結果。與(yu)市場上其他面向大規模(mo)(mo)(mo)生成(cheng)式AI和大語(yu)言(yan)模(mo)(mo)(mo)型(xing)(xing)的(de)產品相比(bi)，Gaudi2擁有卓(zhuo)越的(de)性能(neng)與(yu)領先的(de)性價比(bi)優勢，能(neng)夠(gou)幫助用戶提升運(yun)營(ying)效率的(de)同時(shi)，降低運(yun)營(ying)成(cheng)本。
此外，Gaudi2可為大(da)規(gui)模(mo)的多模(mo)態和語言模(mo)型(xing)提供出色(se)的推理(li)性能。在最(zui)近的Hugging Face評估中，其在大(da)規(gui)模(mo)推理(li)方面的表現，包括在運行(xing)Stable Diffusion2(另一個用于從文(wen)本生成(cheng)(cheng)圖像的最(zui)先進生成(cheng)(cheng)式AI模(mo)型(xing)之一)、70億以及1760億參(can)數(shu)BLOOMz3模(mo)型(xing)時，在行(xing)業內保持領(ling)先。
滿足大語言和多模態模型的需求
Gaudi2深度學習加速器的架構旨在高效擴展，以滿足大規模語言模型及生成式AI模型的需求。其每張芯片集成了21個專用于內部互(hu)聯的100Gbps(RoCEv2 RDMA)以太網(wang)接口，從而(er)實現低延遲服(fu)務器內擴展。
在Stable Diffusion訓練上，Gaudi2展示了從1張卡至64張卡近(jin)線性(xing)99%的(de)(de)擴展性(xing)。此(ci)外，MLCommons剛剛公布的(de)(de)MLPerf訓練3.0結(jie)果4，亦驗證了Gaudi2處理(li)器(qi)在1750億(yi)參數的(de)(de)GPT-3模型上，從256個加(jia)(jia)速器(qi)到384個加(jia)(jia)速器(qi)可實現令人印象深刻的(de)(de)接(jie)近(jin)線性(xing)的(de)(de)95%擴展效果。
具備成熟的軟件支持，
Gaudi2產品在中國市場正式上市
伴隨(sui)日(ri)益增長(chang)的生成式AI及(ji)大(da)語言模(mo)型需求，英特爾亦致力(li)于打造領先、成熟的軟件支持，充分(fen)釋放(fang)Gaudi2深度學習加速(su)器性能。
為支持客(ke)戶(hu)輕松(song)構建模(mo)型(xing)，或將當(dang)前基于GPU的模(mo)型(xing)業務(wu)和系(xi)統(tong)遷移(yi)到基于全(quan)新(xin)Gaudi2服務(wu)器，并幫助(zhu)保護軟(ruan)件(jian)(jian)開發(fa)(fa)投入，SynapseAI?軟(ruan)件(jian)(jian)套件(jian)(jian)針對Gaudi平臺深(shen)度學習業務(wu)進行(xing)了(le)優化(hua)，旨(zhi)在(zai)與廣泛(fan)的軟(ruan)件(jian)(jian)生態系(xi)統(tong)一(yi)起，幫助(zhu)簡(jian)化(hua)模(mo)型(xing)的開發(fa)(fa)和遷移(yi)。SynapseAI集成(cheng)了(le)對TensorFlow和PyTorch框架的支持，并提(ti)供(gong)眾(zhong)多流行(xing)的計算機視覺和自然(ran)語言(yan)參考模(mo)型(xing)，能夠滿足(zu)深(shen)度學習開發(fa)(fa)者(zhe)的多樣化(hua)需求。
目前，英特爾正與浪(lang)潮(chao)(chao)信息(xi)合作，打(da)造(zao)并發售基于Gaudi2深度學習加速器(qi)的浪(lang)潮(chao)(chao)信息(xi)AI服務器(qi)NF5698G7。該服務器(qi)集(ji)成了8顆Gaudi2加速卡HL-225B，還包含雙路第四(si)代英特爾至強可擴展處理器(qi)。
基于Gaudi2加速器的浪潮NF5698G7服務器
攜手中國產業生態
共啟人工智能新篇
多(duo)年來，借助(zhu)強大的(de)(de)(de)AI軟硬件基礎，英特爾一直(zhi)致力(li)于為AI領(ling)域(yu)的(de)(de)(de)各類工作負載(zai)提供(gong)業界領(ling)先的(de)(de)(de)卓越性能，并通過開放的(de)(de)(de)生態(tai)、豐富多(duo)樣的(de)(de)(de)產品選擇不斷降低AI部署的(de)(de)(de)門檻，并為中(zhong)國的(de)(de)(de)AI發展提供(gong)堅定支(zhi)持。
本次(ci)發布會上(shang)，美團、百(bai)(bai)度與浪潮信(xin)息等生態伙(huo)伴分別分享了其基于英(ying)特爾(er)軟硬件產品組合(he)的(de)多樣(yang)化智能(neng)業務進(jin)展。百(bai)(bai)度智能(neng)云服務器高(gao)級經理(li)何永占表(biao)示，集成英(ying)特爾(er)?AMX加速引擎(qing)的(de)第四(si)代英(ying)特爾(er)?至強?可擴展處理(li)器為ERNIE-Tiny模型帶(dai)來了多倍(bei)的(de)性能(neng)優化，百(bai)(bai)度將持(chi)續構建(jian)領先的(de)AI全(quan)棧能(neng)力和全(quan)面的(de)開放生態，并期(qi)待與英(ying)特爾(er)在未來的(de)AI領域展開更為廣泛、深(shen)入的(de)合(he)作。
浪(lang)潮信(xin)息高(gao)級(ji)產(chan)品經理王磊(lei)強(qiang)調(diao)，NF5698G7是專為(wei)面向生(sheng)成(cheng)式AI市場創(chuang)新(xin)(xin)開發的(de)(de)新(xin)(xin)一代AI服務器，支(zhi)持8顆OAM高(gao)速互聯的(de)(de)Gaudi2加速器，具(ju)備高(gao)性能(neng)(neng)、高(gao)擴展、高(gao)能(neng)(neng)效和(he)開放生(sheng)態等優點，將為(wei)AI客(ke)戶提供(gong)強(qiang)大的(de)(de)大模型訓練和(he)推理能(neng)(neng)力。未來，浪(lang)潮信(xin)息將繼續攜(xie)手英特爾(er)，為(wei)行(xing)業打造(zao)創(chuang)新(xin)(xin)、領先的(de)(de)產(chan)品方(fang)案。
此(ci)外(wai)，多家本土生態伙伴亦(yi)表明了與(yu)英特爾在(zai)當下(xia)及(ji)未來產品合(he)(he)作上的(de)堅定立場與(yu)長遠展(zhan)望。新(xin)華(hua)(hua)三(san)集團計(ji)算存儲(chu)產品線副(fu)總裁劉宏程指出，新(xin)華(hua)(hua)三(san)智(zhi)慧計(ji)算秉持(chi)內生智(zhi)能的(de)技術(shu)理念(nian)，基于硬件使能、前瞻技術(shu)、綠色低碳等(deng)全(quan)方位能力(li)，助力(li)AI產業的(de)高(gao)速(su)發展(zhan)。基于英特爾Gaudi2 AI加速(su)器，新(xin)華(hua)(hua)三(san)正與(yu)英特爾緊密合(he)(he)作，開(kai)發適合(he)(he)大模型訓練(lian)和推(tui)理的(de)高(gao)性能AI服務器，推(tui)動智(zhi)能算力(li)的(de)普惠創(chuang)新(xin)。
與此(ci)同時，超聚(ju)變(bian)數字技(ji)術有限(xian)公司算力基礎設施領(ling)域總裁唐啟明表示，非常榮幸見證(zheng)英特(te)爾(er)(er)Gaudi2的(de)發布(bu)。作為英特(te)爾(er)(er)的(de)長(chang)期戰(zhan)略(lve)合作伙伴，超聚(ju)變(bian)將一如既往地(di)攜(xie)手(shou)英特(te)爾(er)(er)，共同推出基于Gaudi2的(de)全新產品與解決方案，助力企業的(de)AI場(chang)景成熟商(shang)用和規模落地(di)。
未(wei)來，英特爾將持續引領產品技術(shu)發展(zhan)，進(jin)一步(bu)加速大規模深度(du)學習(xi)部署，助力(li)中(zhong)國本地AI市場(chang)發展(zhan)。
