今日，英(ying)特爾(er)AI產(chan)品戰略(lve)暨Gaudi2新(xin)品發布會(hui)在京舉行。會(hui)上，英(ying)特爾(er)正式于(yu)(yu)中國市(shi)場推出(chu)第二代Gaudi深度學(xue)習(xi)(xi)加速(su)器——Habana? Gaudi?2。作為(wei)英(ying)特爾(er)從(cong)云到(dao)端產(chan)品組(zu)(zu)合的重要組(zu)(zu)成，Gaudi2致力(li)于(yu)(yu)以領先(xian)的性價(jia)比優勢(shi)，加速(su)AI訓練及推理，為(wei)中國用戶提(ti)供更(geng)高的深度學(xue)習(xi)(xi)性能和效(xiao)率，從(cong)而成為(wei)大(da)規模部署AI的更(geng)優解。
英(ying)特爾于(yu)中國(guo)市(shi)場推出Gaudi2深度學(xue)習加速器
英特爾致力于通過為客戶提供廣泛的硬件選擇，并支持開放的軟件環境，加速人工智能技術(shu)的發(fa)展。憑借(jie)包括至強可擴展處(chu)理器和Gaudi2深度學習加速(su)器在(zai)(zai)內的產品組合(he)，英特爾正在(zai)(zai)降低人工智能(neng)的準入門(men)檻，并強化客戶在(zai)(zai)云端通過網絡和智能(neng)邊(bian)緣部署這一關鍵業務技術(shu)的能(neng)力，從而幫助構建中國人工智能(neng)的未來。
-- Sandra Rivera
英特爾執行副總裁
兼(jian)數據(ju)中(zhong)心與人工智能事業(ye)部總(zong)經理
為深度學習而生的
全新Gaudi2訓練加速器
該Gaudi2深度學習加速器暨Gaudi2夾層卡HL-225B，以第一代Gaudi高性能架構為基礎，以多方位性能與能效比提升，加速高性能大語言模型運行。該加速器具備：
● 24個(ge)可編程Tensor處(chu)理器核心(TPCs)
● 21個100Gbps(RoCEv2)以太網接口
● 96GB HBM2E內存容量
● 2.4TB/秒(miao)的總內存帶寬(kuan)
● 48MB片上SRAM
● 集成多媒(mei)體處(chu)理引擎(qing)
Habana? Gaudi?2深度學習加速器
Gaudi2加(jia)速器的(de)出色性能(neng)在(zai)6月公布(bu)的(de)MLCommons? MLPerf?基準測(ce)試1中(zhong)得到了(le)(le)充分認證，其在(zai)GPT-3模型(xing)(xing)、計算機視覺(jue)模型(xing)(xing)ResNet-50(使(shi)用(yong)8個(ge)加(jia)速器)、Unet3D(使(shi)用(yong)8個(ge)加(jia)速器)，以及自然語(yu)言(yan)(yan)處理模型(xing)(xing)BERT(使(shi)用(yong)8個(ge)和64個(ge)加(jia)速器)上均(jun)取得了(le)(le)優異(yi)的(de)訓練結果。與市場上其他(ta)面(mian)向大規模生成式(shi)AI和大語(yu)言(yan)(yan)模型(xing)(xing)的(de)產品相比(bi)，Gaudi2擁(yong)有卓越的(de)性能(neng)與領(ling)先的(de)性價比(bi)優勢，能(neng)夠(gou)幫(bang)助用(yong)戶提升運(yun)營效率的(de)同時，降低運(yun)營成本。
此外，Gaudi2可(ke)為大規模(mo)的(de)(de)多(duo)模(mo)態和(he)語言(yan)模(mo)型(xing)(xing)提供出色的(de)(de)推理性能。在最近(jin)的(de)(de)Hugging Face評估中，其在大規模(mo)推理方面(mian)的(de)(de)表現，包括在運行(xing)Stable Diffusion2(另一(yi)個用于從(cong)文本生成圖像(xiang)的(de)(de)最先進(jin)生成式AI模(mo)型(xing)(xing)之(zhi)一(yi))、70億(yi)以(yi)及1760億(yi)參數BLOOMz3模(mo)型(xing)(xing)時，在行(xing)業內保(bao)持領先。
滿足大語言和多模態模型的需求
Gaudi2深度學習加速器的架構旨在高效擴展，以滿足大規模語言模型及生成式AI模型的需求。其每張芯片集成(cheng)了21個專用于內部互聯(lian)的(de)100Gbps(RoCEv2 RDMA)以太網接口(kou)，從而實現低延遲(chi)服務器內擴展。
在(zai)Stable Diffusion訓練(lian)上，Gaudi2展示了從1張(zhang)卡至64張(zhang)卡近(jin)線(xian)性(xing)99%的擴展性(xing)。此外(wai)，MLCommons剛剛公布的MLPerf訓練(lian)3.0結果4，亦驗證了Gaudi2處理器(qi)在(zai)1750億參(can)數的GPT-3模(mo)型上，從256個(ge)加(jia)速器(qi)到384個(ge)加(jia)速器(qi)可實現(xian)令人(ren)印(yin)象(xiang)深刻的接(jie)近(jin)線(xian)性(xing)的95%擴展效果。
具備成熟的軟件支持，
Gaudi2產品在中國市場正式上市
伴隨日益(yi)增長的(de)生成式AI及大語言(yan)模(mo)型(xing)需求，英特爾亦(yi)致(zhi)力(li)于打造領(ling)先、成熟的(de)軟(ruan)件支(zhi)持，充分釋放(fang)Gaudi2深度學習加速器性能(neng)。
為(wei)支持客戶輕松(song)構建模(mo)(mo)型(xing)，或將當前基(ji)于GPU的(de)模(mo)(mo)型(xing)業務(wu)和(he)系統(tong)遷移到(dao)基(ji)于全新Gaudi2服務(wu)器，并(bing)(bing)幫助(zhu)保護(hu)軟(ruan)件(jian)開發(fa)投入，SynapseAI?軟(ruan)件(jian)套件(jian)針對(dui)Gaudi平臺深度學習業務(wu)進行了優化，旨在與廣(guang)泛的(de)軟(ruan)件(jian)生態系統(tong)一起(qi)，幫助(zhu)簡化模(mo)(mo)型(xing)的(de)開發(fa)和(he)遷移。SynapseAI集(ji)成了對(dui)TensorFlow和(he)PyTorch框架的(de)支持，并(bing)(bing)提供眾多流行的(de)計算(suan)機視覺和(he)自然(ran)語言(yan)參考模(mo)(mo)型(xing)，能夠滿足(zu)深度學習開發(fa)者的(de)多樣化需(xu)求(qiu)。
目(mu)前，英特爾(er)正與浪(lang)潮信息合作，打造并發售基于Gaudi2深(shen)度學習加速器(qi)的浪(lang)潮信息AI服務(wu)器(qi)NF5698G7。該服務(wu)器(qi)集成了8顆Gaudi2加速卡(ka)HL-225B，還(huan)包含雙路第四代英特爾(er)至強(qiang)可擴展處理器(qi)。
基于(yu)Gaudi2加速器(qi)的浪潮(chao)NF5698G7服(fu)務器(qi)
攜手中國產業生態
共啟人工智能新篇
多年來，借(jie)助(zhu)強(qiang)大的(de)AI軟硬件基礎，英特爾一直致力于為AI領域的(de)各類工作負載(zai)提(ti)供業(ye)界領先的(de)卓(zhuo)越性能，并(bing)通過開放的(de)生態、豐富多樣的(de)產品(pin)選擇不(bu)斷降低AI部(bu)署的(de)門檻，并(bing)為中國的(de)AI發展提(ti)供堅定支持。
本次發布會上(shang)，美團(tuan)、百度(du)(du)與浪潮(chao)信息(xi)等生態(tai)伙伴(ban)分別分享(xiang)了(le)其基(ji)于英(ying)特爾(er)(er)軟硬(ying)件產品組(zu)合的(de)(de)(de)多(duo)樣化(hua)智(zhi)能業務進展(zhan)。百度(du)(du)智(zhi)能云服務器高級經理(li)何永占表示，集成英(ying)特爾(er)(er)?AMX加速引(yin)擎的(de)(de)(de)第(di)四代英(ying)特爾(er)(er)?至強?可擴展(zhan)處理(li)器為ERNIE-Tiny模(mo)型帶來了(le)多(duo)倍的(de)(de)(de)性(xing)能優化(hua)，百度(du)(du)將(jiang)持(chi)續(xu)構建領(ling)先的(de)(de)(de)AI全棧能力和全面的(de)(de)(de)開放生態(tai)，并期待與英(ying)特爾(er)(er)在未來的(de)(de)(de)AI領(ling)域(yu)展(zhan)開更為廣泛、深入的(de)(de)(de)合作。
浪(lang)潮(chao)信息高級產(chan)品經理王磊強(qiang)調，NF5698G7是專為(wei)面向生成式AI市場創(chuang)新開(kai)發的(de)新一代(dai)AI服(fu)務器，支持8顆OAM高速互聯(lian)的(de)Gaudi2加(jia)速器，具備高性能、高擴展、高能效和開(kai)放(fang)生態等優點，將(jiang)為(wei)AI客戶提供強(qiang)大的(de)大模型(xing)訓(xun)練和推理能力。未來(lai)，浪(lang)潮(chao)信息將(jiang)繼(ji)續攜手(shou)英(ying)特爾，為(wei)行業打(da)造創(chuang)新、領先的(de)產(chan)品方(fang)案。
此外(wai)，多家本土生(sheng)態伙伴亦表明(ming)了與(yu)英(ying)(ying)特(te)爾在當(dang)下及未來(lai)產(chan)品合(he)作上(shang)的堅定立場與(yu)長遠展望(wang)。新華(hua)三(san)集團計算(suan)(suan)存(cun)儲產(chan)品線副總裁劉宏(hong)程(cheng)指(zhi)出(chu)，新華(hua)三(san)智(zhi)慧計算(suan)(suan)秉持內生(sheng)智(zhi)能(neng)的技(ji)(ji)術(shu)理(li)念(nian)，基于硬件(jian)使能(neng)、前(qian)瞻(zhan)技(ji)(ji)術(shu)、綠色低(di)碳(tan)等全方(fang)位能(neng)力，助(zhu)力AI產(chan)業的高速(su)發展。基于英(ying)(ying)特(te)爾Gaudi2 AI加速(su)器，新華(hua)三(san)正(zheng)與(yu)英(ying)(ying)特(te)爾緊(jin)密合(he)作，開發適合(he)大模(mo)型訓練和推理(li)的高性能(neng)AI服務器，推動智(zhi)能(neng)算(suan)(suan)力的普(pu)惠創(chuang)新。
與(yu)此同(tong)時，超聚變數字(zi)技術有限公司(si)算力基礎(chu)設施領域(yu)總裁唐啟(qi)明表示，非常榮幸見證(zheng)英(ying)特(te)爾(er)(er)Gaudi2的(de)發布。作(zuo)為英(ying)特(te)爾(er)(er)的(de)長期戰略合作(zuo)伙伴，超聚變將一(yi)如(ru)既往地攜手英(ying)特(te)爾(er)(er)，共同(tong)推出基于Gaudi2的(de)全新產品與(yu)解決方(fang)案(an)，助(zhu)力企業的(de)AI場景成熟商用和規模落地。
未來，英特爾將(jiang)持續引(yin)領產(chan)品技術發展，進一步加速大規(gui)模(mo)深度學習部(bu)署，助力中國(guo)本地AI市場發展。
