近日，云豹(bao)智能與燧原科(ke)技達成戰(zhan)略合作(zuo)，依托雙(shuang)方(fang)各自在(zai)DPU (Data Processing Unit) 和AI計算(suan)領域的軟硬件優勢，聯合開發大規模高(gao)性能AI算(suan)力平臺，為云端AI計算(suan)提供(gong)更(geng)高(gao)效的解決方(fang)案。
云豹智能創始人兼CEO 蕭啟陽博士表示(shi)：“在數(shu)據中心(xin)領域(yu)，DPU正推動著計算基礎(chu)架(jia)構的(de)(de)(de)變革，以提(ti)供更(geng)高(gao)(gao)效的(de)(de)(de)數(shu)據處理(li)和計算解決(jue)方案(an)(an)。DPU與(yu)(yu)AI加速設(she)備(bei)更(geng)高(gao)(gao)效地互(hu)通(tong)互(hu)動，推動AI應(ying)用的(de)(de)(de)發展，讓AI計算更(geng)高(gao)(gao)效、更(geng)節能，這是我(wo)們推出DataDirectPath的(de)(de)(de)出發點。我(wo)們相(xiang)信DataDirectPath相(xiang)關的(de)(de)(de)技術必將為(wei)數(shu)據中心(xin)計算資源池化提(ti)供重要(yao)的(de)(de)(de)基礎(chu)。我(wo)們很高(gao)(gao)興與(yu)(yu)業(ye)(ye)界(jie)(jie)AI算力領域(yu)領先者燧原科技合作，共同為(wei)業(ye)(ye)界(jie)(jie)提(ti)供創新的(de)(de)(de)DataDirectPath解決(jue)方案(an)(an)，為(wei)客戶提(ti)供更(geng)先進的(de)(de)(de)AI解決(jue)方案(an)(an)。”
燧原科技創始人兼COO 張亞林表(biao)示(shi)：“數據(ju)中(zhong)(zhong)心和(he)云計(ji)算是(shi)國家(jia)新基(ji)建的(de)算力(li)基(ji)礎設施(shi)，是(shi)企業數字化轉(zhuan)型的(de)重(zhong)要保障。在(zai)智(zhi)(zhi)能數據(ju)中(zhong)(zhong)心的(de)核心業務(wu)中(zhong)(zhong)，海量數據(ju)和(he)計(ji)算能力(li)已成(cheng)為核心關(guan)鍵(jian)。基(ji)于(yu)云豹智(zhi)(zhi)能和(he)燧(sui)原科技在(zai)數據(ju)處(chu)理(li)和(he)算力(li)產(chan)品的(de)領先(xian)優勢，將(jiang)進(jin)一(yi)步促進(jin)數據(ju)中(zhong)(zhong)心的(de)變革。通(tong)過創(chuang)新性的(de)DataDirectPath技術實現AI處(chu)理(li)器之(zhi)間(jian)以及(ji)AI處(chu)理(li)器與存儲(chu)之(zhi)間(jian)的(de)直接通(tong)信，對于(yu)提升AI計(ji)算規模和(he)訓練效率至關(guan)重(zhong)要。我們很(hen)高興與DPU頭部廠商(shang)云豹智(zhi)(zhi)能一(yi)起，為業界帶來領先(xian)的(de)大規模高性能AI算力(li)平臺(tai)。”
AI算力云化是未來AI發展的趨勢之一
高性能數據處理能力變得尤其重要
據艾瑞預測，2020年，中國人工智能基(ji)礎(chu)設(she)施市場(chang)規(gui)(gui)模為497億元，為人工(gong)智能產業總規(gui)(gui)模的33%，總體呈(cheng)現持(chi)續增(zeng)長的走勢，到2025年，中國(guo)人工(gong)智能基(ji)礎(chu)設(she)施市場(chang)規(gui)(gui)模將達到2475億元。
算力作為人工智能產業發展的三大要素之一，AI芯片是(shi)其載體。AI芯片作為(wei)人(ren)工智(zhi)能(neng)產業的(de)關鍵(jian)硬件(jian)，是(shi)AI加速(su)服務器中用(yong)于AI訓練與推理的(de)核心計算(suan)引擎，被廣泛應用(yong)于人(ren)工智(zhi)能(neng)、云計算(suan)、數據中心、邊緣計算(suan)、移動終端等領域。當前，我國(guo)(guo)的(de)AI芯片行業仍處于起步階段，市(shi)場空間(jian)有待(dai)探索(suo)與開拓。據艾瑞(rui)統計與預測，2020年(nian)我國(guo)(guo)AI芯片市(shi)場規(gui)模(mo)為(wei)197億(yi)元(yuan)，到2025年(nian)，我國(guo)(guo)AI芯片市(shi)場規(gui)模(mo)將達(da)到1385億(yi)元(yuan)，2021-2025年(nian)的(de)相(xiang)關CAGR達(da)47%，市(shi)場整體增(zeng)速(su)較快。
但對于很多企(qi)業來說，獨立建(jian)設(she)自己(ji)的AI硬件(jian)集(ji)群一次性(xing)投(tou)入(ru)和(he)后續(xu)運維的成本非常高(gao)，建(jian)設(she)周期長且利(li)用率低。而(er)AI算力(li)云化，以(yi)(yi)按(an)需分配的方(fang)式提(ti)供(gong)AI算力(li)，提(ti)高(gao)效能的同時，也可以(yi)(yi)降低成本。因此(ci)，AI算力(li)云化是未來AI發(fa)展的趨勢之(zhi)一。
AI算(suan)力云化不僅需要高性能(neng)(neng)的AI計算(suan)能(neng)(neng)力，也需要高性能(neng)(neng)的數據(ju)(ju)處理(li)能(neng)(neng)力，包括AI芯片(pian)之間的數據(ju)(ju)通信(xin)，AI芯片(pian)獲(huo)取存儲(chu)數據(ju)(ju)等。隨著AI數據(ju)(ju)爆發(fa)式增長，模(mo)型(xing)迭代(dai)速度更快，模(mo)型(xing)規模(mo)越(yue)(yue)來(lai)越(yue)(yue)大，數據(ju)(ju)處理(li)能(neng)(neng)力的要求(qiu)也越(yue)(yue)來(lai)越(yue)(yue)高。
AI芯片廠商、GPU廠商、AI算法開(kai)發商都在不斷探索硬件和(he)軟件的解決(jue)方(fang)案。主流的GPU或AI芯片廠商提供自己私有(you)的解決(jue)方(fang)案，比(bi)如NVIDIA的NVLink、GPUDirect和(he)相(xiang)應(ying)(ying)NCCL軟件，但(dan)AI市場和(he)用戶期待著一個(ge)開(kai)放的技術和(he)相(xiang)應(ying)(ying)高性(xing)能解決(jue)方(fang)案。
云豹智能與燧原科技聯合推出大規模高性能AI算力平臺解決方案
云豹智能作為(wei)DPU芯片(pian)的(de)領導者，正(zheng)在(zai)積極(ji)地(di)幫助業(ye)界解決問(wen)題(ti)。隨著數據(ju)中(zhong)心基礎架構逐漸演進(jin)到以DPU為(wei)核心，DPU將決定數據(ju)中(zhong)心的(de)互(hu)聯互(hu)通(tong)(tong)方式。通(tong)(tong)過DataDirectPath（數據(ju)直通(tong)(tong)技術(shu)），DPU將為(wei)AI大規模訓練提供一個更高效(xiao)的(de)通(tong)(tong)信方式。
目前，云(yun)豹智(zhi)能(neng)與(yu)燧原科技(ji)達成戰略合(he)作，共同研發和提供大規模高(gao)(gao)(gao)(gao)性(xing)能(neng)AI算力平臺解決方案(an)。雙方創新性(xing)地提出了DataDirectPath技(ji)術(shu)(shu)：該技(ji)術(shu)(shu)用于(yu)高(gao)(gao)(gao)(gao)性(xing)能(neng)分(fen)布式數(shu)據(ju)(ju)通(tong)(tong)信(xin)，基(ji)于(yu)DPU的高(gao)(gao)(gao)(gao)靈活性(xing)和高(gao)(gao)(gao)(gao)性(xing)能(neng)的特(te)點，實現與(yu)云(yun)燧T20之間(jian)以及與(yu)存儲之間(jian)的高(gao)(gao)(gao)(gao)性(xing)能(neng)直(zhi)接(jie)通(tong)(tong)信(xin)，提升AI訓練效(xiao)率的同時，也降低了訓練成本。DataDirectPath包(bao)括：DataDirectPath RDMA和DataDirectPath Storage。DataDirectPath RDMA用于(yu)AI加(jia)速(su)芯片(pian)之間(jian)的數(shu)據(ju)(ju)通(tong)(tong)信(xin)，而DataDirectPath Storage用于(yu)AI加(jia)速(su)芯片(pian)與(yu)存儲器(qi)之間(jian)的高(gao)(gao)(gao)(gao)速(su)數(shu)據(ju)(ju)讀寫。
相對于一些GPU廠商推出的私有解(jie)決方案，DataDirectPath具有開放性、高兼容性和(he)高靈活(huo)性等特(te)點(dian)。
云(yun)豹智能與燧原科(ke)技合作(zuo)，基(ji)于云(yun)豹云(yun)霄DPU和(he)燧原科(ke)技云(yun)燧T20率先推(tui)出了DataDirectPath Storage解(jie)(jie)決(jue)(jue)方案(an)，為AI訓練儲存(cun)(cun)(cun)訪問提供更(geng)(geng)(geng)高效(xiao)的(de)(de)解(jie)(jie)決(jue)(jue)方案(an)。在傳統(tong)解(jie)(jie)決(jue)(jue)方案(an)中，云(yun)燧T20訪問存(cun)(cun)(cun)儲時，需(xu)要(yao)將數據先搬(ban)移(yi)到系(xi)統(tong)內存(cun)(cun)(cun)，再由系(xi)統(tong)內存(cun)(cun)(cun)搬(ban)移(yi)到目標設備。在創新(xin)的(de)(de)DataDirectPath Storage解(jie)(jie)決(jue)(jue)方案(an)中，基(ji)于DataDirectPath Storage技術，云(yun)燧T20通過(guo)DPU直接獲得數據，從(cong)而繞過(guo)系(xi)統(tong)內存(cun)(cun)(cun)和(he)CPU，讓數據訪問速度更(geng)(geng)(geng)快，訪問延遲(chi)更(geng)(geng)(geng)短，系(xi)統(tong)開銷更(geng)(geng)(geng)小。DataDirectPath Storage不(bu)僅支(zhi)(zhi)持數據通道的(de)(de)Bypass CPU, 也(ye)支(zhi)(zhi)持控(kong)制(zhi)通道的(de)(de)Bypass CPU，讓控(kong)制(zhi)路徑也(ye)更(geng)(geng)(geng)高效(xiao)，大大降低CPU的(de)(de)開銷。
DataDirectPath Storage解(jie)決方案(an)具有以下優勢(shi)：
高性能、低延遲、低開銷：DataDirectPath Storage同(tong)時(shi)(shi)支持(chi)數據通(tong)(tong)道(dao)和控制通(tong)(tong)道(dao)Bypass CPU，降(jiang)低CPU開銷、提高(gao)AI加速芯(xin)片訪問性能并(bing)降(jiang)低通(tong)(tong)信(xin)時(shi)(shi)延，從而幫助(zhu)用戶(hu)構建更大規模、更高(gao)性價比和更高(gao)能效的AI計算(suan)平臺(tai)。
更高兼容性：用戶端文件系統與后端實(shi)現解(jie)耦，通過DPU兼容多種存儲系統和(he)協議(yi)。
互聯方案更靈活：DPU和AI加速芯片通信支持(chi)多種協(xie)議，包括Virtio、RDMA和NVMe等，從而(er)支持(chi)更(geng)靈活的互(hu)聯方案(an)。
云豹智能和燧原(yuan)科技將基于雙方(fang)技術優勢和技術互(hu)補，持續發揮協同作用，為云端AI計算(suan)降本增效，為行業(ye)(ye)提供更具創新力和價值的(de)應用解決方(fang)案(an)，為國內芯(xin)片(pian)行業(ye)(ye)發展進一步夯實大規模落地(di)基礎。
