近日，云豹智能與燧原科技達成戰略合作，依托雙方各自在DPU (Data Processing Unit) 和AI計算領域的軟硬件優勢，聯合開發大規模高性能AI算力平臺，為云端AI計算提供更高效的解決方案。
云豹智能創始人兼CEO 蕭啟陽博士表示：“在數據中心領域，DPU正推動著計算基礎架構的變革，以提供更高效的數據處理和計算解決方案。DPU與AI加速設備更高效地互通互動，推動AI應用的發展，讓AI計算更高效、更節能，這是我們推出DataDirectPath的出發點。我們相信DataDirectPath相關的技術必將為數據中心計算資源池化提供重要的基礎。我們很高興與業界AI算力領域領先者燧原科技合作，共同為業界提供創新的DataDirectPath解決方案，為客戶提供更先進的AI解決方案。”
燧原科技創始人兼COO 張亞林表示：“數據中心和云計算是國家新基建的算力基礎設施，是企業數字化轉型的重要保障。在智能數據中心的核心業務中，海量數據和計算能力已成為核心關鍵。基于云豹智能和燧原科技在數據處理和算力產品的領先優勢，將進一步促進數據中心的變革。通過創新性的DataDirectPath技術實現AI處理器之間以及AI處理器與存儲之間的直接通信，對于提升AI計算規模和訓練效率至關重要。我們很高興與DPU頭部廠商云豹智能一起，為業界帶來領先的大規模高性能AI算力平臺。”
AI算力云化是未來AI發展的趨勢之一
高性能數據處理能力變得尤其重要
據艾瑞預測，2020年，中國人工智能基礎設施市場規模為497億元，為人工智能產業總規模的33%，總體呈現持續增長的走勢，到2025年，中國人工智能基礎設施市場規模將達到2475億元。
算力作為人工智能產業發展的三大要素之一，AI芯片是其載體。AI芯片作為人工智能產業的關鍵硬件，是AI加速服務器中用于AI訓練與推理的核心計算引擎，被廣泛應用于人工智能、云計算、數據中心、邊緣計算、移動終端等領域。當前，我國的AI芯片行業仍處于起步階段，市場空間有待探索與開拓。據艾瑞統計與預測，2020年我國AI芯片市場規模為197億元，到2025年，我國AI芯片市場規模將達到1385億元，2021-2025年的相關CAGR達47%，市場整體增速較快。
但對于很多企業來說，獨立建設自己的AI硬件集群一次性投入和后續運維的成本非常高，建設周期長且利用率低。而AI算力云化，以按需分配的方式提供AI算力，提高效能的同時，也可以降低成本。因此，AI算力云化是未來AI發展的趨勢之一。
AI算力云化不僅需要高性能的AI計算能力，也需要高性能的數據處理能力，包括AI芯片之間的數據通信，AI芯片獲取存儲數據等。隨著AI數據爆發式增長，模型迭代速度更快，模型規模越來越大，數據處理能力的要求也越來越高。
AI芯片廠商、GPU廠商、AI算法開發商都在不斷探索硬件和軟件的解決方案。主流的GPU或AI芯片廠商提供自己私有的解決方案，比如NVIDIA的NVLink、GPUDirect和相應NCCL軟件，但AI市場和用戶期待著一個開放的技術和相應高性能解決方案。
云豹智能與燧原科技聯合推出大規模高性能AI算力平臺解決方案
云豹智能作為DPU芯片的領導者，正在積極地幫助業界解決問題。隨著數據中心基礎架構逐漸演進到以DPU為核心，DPU將決定數據中心的互聯互通方式。通過DataDirectPath（數據直通技術），DPU將為AI大規模訓練提供一個更高效的通信方式。
目前，云豹智能與燧原科技達成戰略合作，共同研發和提供大規模高性能AI算力平臺解決方案。雙方創新性地提出了DataDirectPath技術：該技術用于高性能分布式數據通信，基于DPU的高靈活性和高性能的特點，實現與云燧T20之間以及與存儲之間的高性能直接通信，提升AI訓練效率的同時，也降低了訓練成本。DataDirectPath包括：DataDirectPath RDMA和DataDirectPath Storage。DataDirectPath RDMA用于AI加速芯片之間的數據通信，而DataDirectPath Storage用于AI加速芯片與存儲器之間的高速數據讀寫。
相對于一些GPU廠商推出的私有解決方案，DataDirectPath具有開放性、高兼容性和高靈活性等特點。
云豹智能與燧原科技合作，基于云豹云霄DPU和燧原科技云燧T20率先推出了DataDirectPath Storage解決方案，為AI訓練儲存訪問提供更高效的解決方案。在傳統解決方案中，云燧T20訪問存儲時，需要將數據先搬移到系統內存，再由系統內存搬移到目標設備。在創新的DataDirectPath Storage解決方案中，基于DataDirectPath Storage技術，云燧T20通過DPU直接獲得數據，從而繞過系統內存和CPU，讓數據訪問速度更快，訪問延遲更短，系統開銷更小。DataDirectPath Storage不僅支持數據通道的Bypass CPU, 也支持控制通道的Bypass CPU，讓控制路徑也更高效，大大降低CPU的開銷。
DataDirectPath Storage解決方案具有以下優勢：
高性能、低延遲、低開銷：DataDirectPath Storage同時支持數據通道和控制通道Bypass CPU，降低CPU開銷、提高AI加速芯片訪問性能并降低通信時延，從而幫助用戶構建更大規模、更高性價比和更高能效的AI計算平臺。
更高兼容性：用戶端文件系統與后端實現解耦，通過DPU兼容多種存儲系統和協議。
互聯方案更靈活：DPU和AI加速芯片通信支持多種協議，包括Virtio、RDMA和NVMe等，從而支持更靈活的互聯方案。
云豹智能和燧原科技將基于雙方技術優勢和技術互補，持續發揮協同作用，為云端AI計算降本增效，為行業提供更具創新力和價值的應用解決方案，為國內芯片行業發展進一步夯實大規模落地基礎。
