智東西（公眾號：zhidxcom）
作者 | GenAICon 2025
4月1日-2日，一場(chang)全場(chang)干貨(huo)爆棚的生成式AI盛(sheng)會，在(zai)北京圓滿舉行。
開年(nian)以(yi)來，DeepSeek的異軍突起，改寫了中西(xi)大模(mo)型(xing)競(jing)爭(zheng)敘事。生成式AI似乎猛然沖進一個(ge)全(quan)新(xin)(xin)征(zheng)程(cheng)中，中國企(qi)業更是(shi)斗(dou)志昂揚地踴躍(yue)創新(xin)(xin)，不僅(jin)領銜AI開源盛世，還掀起了新(xin)(xin)一輪模(mo)型(xing)部署與AI應(ying)用研發(fa)熱潮，在這(zhe)千載(zai)難逢的歷(li)史(shi)機(ji)遇期全(quan)速沖鋒。
為此，我們(men)發起(qi)了一場(chang)聚(ju)焦前沿技術與產業(ye)趨勢的春日AI聚(ju)會——2025中國生成(cheng)式(shi)AI大會（北京(jing)站(zhan)）。
大會以“大拐點 新征(zheng)程(cheng)”為主題(ti)，兩天之內(nei)，超過50位產學研嘉賓密(mi)集輸(shu)出高濃度、高質量的干貨信息，深度解構DeepSeek引(yin)發(fa)的變(bian)革狂(kuang)潮，全面展示覆蓋深度推理模型、多模態模型與世界模型、AI Infra（AI基礎(chu)設施）、AIGC應(ying)用、Agents（智能(neng)體）、具身智能(neng)等領域的生成式AI最新進展。
▲中國生成式(shi)AI大會(hui)(hui)(hui)主會(hui)(hui)(hui)場(chang)開幕式(shi)、GenAI應用論(lun)壇、大模型峰會(hui)(hui)(hui)、分(fen)會(hui)(hui)(hui)場(chang)技術(shu)研討會(hui)(hui)(hui)、展(zhan)區人(ren)流密集
本屆大會(hui)(hui)(hui)主會(hui)(hui)(hui)場(chang)舉辦開幕式(shi)、GenAI應用(yong)論壇、大模(mo)型(xing)峰會(hui)(hui)(hui)，分會(hui)(hui)(hui)場(chang)舉辦3場(chang)以(yi)DeepSeek R1與推(tui)理(li)、AI智(zhi)能(neng)體、具身(shen)智(zhi)能(neng)大模(mo)型(xing)為主題的(de)技術研討會(hui)(hui)(hui)，期間既有同頻共振，又有激烈觀點交鋒，現場(chang)參(can)會(hui)(hui)(hui)觀眾(zhong)超過1500人(ren)。
展區(qu)亦是人頭攢動，從早到晚充斥著熱切(qie)的交流(liu)聲，Alluxio、Zenlayer、DriveNets、澳鵬數(shu)(shu)據(ju)、晴(qing)數(shu)(shu)智慧、中昊芯英、GMI Cloud、焱融科(ke)(ke)技(ji)、英博數(shu)(shu)科(ke)(ke)、華為云、研惠通(tong)、新(xin)晧(hao)誠科(ke)(ke)技(ji)、楓清(qing)科(ke)(ke)技(ji)、科(ke)(ke)華數(shu)(shu)據(ju)、首(shou)都在線、清(qing)智圖靈等(deng)16家企(qi)業帶(dai)來最新(xin)技(ji)術產品(pin)展示。
這已經是(shi)智(zhi)一科技(ji)旗下智(zhi)猩猩、智(zhi)東西共同發起中國生成式(shi)AI大會(hui)的(de)第四屆(jie)，也是(shi)AI青年學者密度(du)最高(gao)的(de)一屆(jie)。自2023年以來，大會(hui)累計吸引了數千人線下參會(hui)，線上觀(guan)看人次更是(shi)超(chao)過1000萬，成為國內(nei)AI領域最具影(ying)響力的(de)產業峰會(hui)之(zhi)一。
▲聯(lian)(lian)想集團Game of AI科普視頻在大會展播(bo)：聯(lian)(lian)想工廠(chang)制造控制塔(ta)MCT2.0，生成式(shi)AI在制造業首次落地
智一科技聯合創始人、CEO龔倫常在致辭環節宣布：今年，中國生成式AI大會正式升級為“智領未來”北京人工智能系列品牌活動之一。
“智領未來”是北京市科委、中關村管委會打造的北京市人工智能領(ling)域的(de)活(huo)動(dong)品牌。此外，同樣作(zuo)為“智領(ling)未來”北京(jing)人工(gong)智能系列品牌活(huo)動(dong)之一的(de)中國AI算力峰會(hui)將(jiang)于(yu)今年(nian)6月(yue)在北京(jing)舉辦(ban)。
龔倫常還預告了將于今年舉辦的多個主題會議：4月底，中國汽車智能化創新峰會將在上海車展期間同步舉辦；9月，全球AI芯片峰會將在(zai)上海舉(ju)辦；11月，中國具身(shen)智能(neng)機器人(ren)大會將在(zai)深圳舉(ju)辦。歡迎感興趣的朋(peng)友們關注。
▲智(zhi)一科技聯合創始人、CEO龔倫常致(zhi)辭(ci)
一、開幕式：突破大模型預訓練瓶頸，為AI應用爆發掃清障礙
進(jin)入2025年(nian)，AI領(ling)域涌現哪(na)些新關鍵詞？慢思(si)考推理技術如何緩解大模(mo)型預(yu)訓(xun)練(lian)瓶頸(jing)？怎(zen)樣(yang)讓機器(qi)人操作交互像跳舞(wu)一樣(yang)絲(si)滑(hua)？Agents（智能體）落地企業需攻克哪(na)些挑戰？國產算力怎(zen)么解鎖(suo)萬卡(ka)集群難關？
在大會首日(ri)開幕(mu)式上，產(chan)學(xue)研(yan)嘉賓(bin)圍繞(rao)深度(du)推(tui)理模型、具身智能機器人(ren)、AI智能體、AI算力基礎設(she)施、AI應用，分享了對最新技術思(si)路(lu)與(yu)推(tui)動落地(di)的觀察與(yu)思(si)考。
1、人大趙鑫：慢思考推理技術如何緩解大模型預訓練瓶頸？
中國人(ren)民大學(xue)高瓴人(ren)工智(zhi)能學(xue)院(yuan)教授趙鑫談道(dao)，大模型本(ben)質上是一個條件(jian)概(gai)率生成模型，思維鏈會(hui)提升預(yu)測正確的可能性。
當(dang)前(qian)訓練模型(xing)性(xing)能增(zeng)長會出現(xian)邊(bian)際效(xiao)益(yi)遞減，其中(zhong)數據和算力是探索擴展法則的主要限(xian)制，這也是為何(he)當(dang)下需要慢思考推(tui)理技術。
慢思考推理技術的(de)基(ji)本思路是“搜索+學習”的(de)結合，具體來看，包括基(ji)于(yu)多次采樣的(de)方(fang)法、基(ji)于(yu)樹(shu)搜索的(de)方(fang)法、基(ji)于(yu)SFT（監(jian)督微調）的(de)方(fang)法、基(ji)于(yu)RL（強化學習）的(de)方(fang)法。
趙鑫教(jiao)授團隊在慢思考(kao)技(ji)術(shu)方(fang)面進行了大量(liang)研究。在RL技(ji)術(shu)領域(yu)，找到可(ke)驗證的訓練數據非常重要(yao)，團隊系統探索了類R1模(mo)型的復(fu)現方(fang)法。
推(tui)理模型本質上(shang)可以認為(wei)是一(yi)個具備逐步推(tui)理/動作規劃的(de)(de)“大腦”，未來推(tui)理模型可能會深(shen)刻影響現有智能體的(de)(de)設(she)計模式。
▲中國人民大學高瓴(ling)人工智能學院教授趙(zhao)鑫
2、清華許華哲：如何讓機器人的操作交互像跳舞一樣“絲滑”？
清(qing)華大(da)學交(jiao)叉學院助理教(jiao)授、博導、星(xing)海圖聯合創(chuang)始(shi)人(ren)許華哲談(tan)道，當(dang)前機器人(ren)做跳舞、跑步、扭秧歌這類事已(yi)經很嫻熟了，有大(da)量(liang)數(shu)據支撐，但在操作交(jiao)互方面(mian)數(shu)據十分匱(kui)乏，還有很長的路要走。
解決(jue)數(shu)據(ju)難題，讓(rang)機(ji)(ji)器人(ren)有觸覺是非(fei)常關鍵的，這樣(yang)數(shu)據(ju)才能更豐(feng)富，團隊設計了仿真手套，可(ke)以讓(rang)機(ji)(ji)器人(ren)同步人(ren)手的操作。
有(you)了數(shu)據(ju)還不夠，數(shu)據(ju)量(liang)也非(fei)常關鍵，為此(ci)，團隊通(tong)(tong)過(guo)DemoGen的方(fang)式豐富數(shu)據(ju)量(liang)，借此(ci)機器人的泛化能力可以(yi)得(de)到進一步提升。相(xiang)比傳統(tong)方(fang)式，通(tong)(tong)過(guo)DemoGen的方(fang)式獲得(de)數(shu)據(ju)的速度快了上萬倍。
未來讓機(ji)器(qi)人能夠泛化(hua)地去做更多(duo)的柔性操作，是團隊努力的方向。
▲清華(hua)大(da)學交叉(cha)學院(yuan)助(zhu)理教授、博導、星海圖(tu)聯合創始人許華(hua)哲
3、PINE AI李博杰：AI原生團隊是組織形態的一場重大變革
PINE AI聯(lian)合創(chuang)始人(ren)、首席科學家李(li)博杰認為，AI Agent在(zai)爆火的同時，也面(mian)臨著企(qi)業(ye)知識(shi)孤島(dao)、GUI使用困難、缺少(shao)獨(du)立測試環(huan)境(jing)、無(wu)法長(chang)時間運行(xing)等問題。
要打造AI原(yuan)生團隊，讓AI真正成為“數字員工(gong)”，需(xu)要為Agent打造類似(si)開源社區的(de)溝(gou)通文化，實現開放透明的(de)信息共享，并(bing)配(pei)備(bei)AI友好的(de)團隊協作工(gong)具(ju)接口、完善的(de)測試(shi)環境與測試(shi)用例，同(tong)時讓每個員工(gong)都擁有AI助(zhu)理(li)。
從技術層面(mian)來(lai)看，未來(lai)Agent還(huan)需(xu)要(yao)在明晰(xi)需(xu)求、主(zhu)動溝通、主(zhu)動協作、長期記憶、自我反思(si)回(hui)溯(su)與(yu)高精度(du)內部知識庫(ku)搜索(suo)等(deng)方面(mian)實現突破，才(cai)能(neng)真正實現從工具到團隊成(cheng)員的(de)轉(zhuan)變。
▲PINE AI聯(lian)合創始(shi)人(ren)、首席(xi)科學家李博杰
4、壁仞科技丁云帆：64卡4TB顯存訓練滿血DeepSeek-V3，異構混訓逐步邁向萬卡集群
DeepSeek引爆了大(da)模型落地元年。壁(bi)仞(ren)科技AI軟件首席(xi)架構師(shi)丁云帆認為，大(da)模型落地需要工(gong)程和算(suan)法的協同創新，數(shu)據是燃(ran)料(liao)，算(suan)法是引擎，算(suan)力是加(jia)速(su)器(qi)。
壁仞(ren)科(ke)技目前有(you)萬卡(ka)集(ji)(ji)群(qun)整體解決(jue)方案和智算(suan)生(sheng)態(tai)，希(xi)望通過(guo)軟硬協同&算(suan)法(fa)與工程協同，系統(tong)性(xing)地破解大模(mo)(mo)型(xing)算(suan)力(li)難題：硬件集(ji)(ji)群(qun)算(suan)力(li)方面，壁仞(ren)科(ke)技自主原創(chuang)(chuang)了GPU芯(xin)片架構，引領Chiplet技術趨(qu)勢(shi)；軟件有(you)效(xiao)算(suan)力(li)方面，有(you)大模(mo)(mo)型(xing)訓推一體平臺，業界首次實現大模(mo)(mo)型(xing)訓練(lian)自動彈性(xing)擴縮容。業界首創(chuang)(chuang)三級異步checkpoint，千卡(ka)集(ji)(ji)群(qun)千億(yi)參(can)數可以實現自動斷點續訓小于(yu)5分鐘(zhong)，大幅提升集(ji)(ji)群(qun)穩定性(xing)。
大規模分布式優化(hua)方(fang)面，壁仞科技(ji)針對國產GPU高(gao)效適配DeepSeek進(jin)行了一系列技(ji)術優化(hua)創新，64卡4096GB顯存即可支持DeepSeek-V3滿血版高(gao)效全(quan)參訓練，而(er)其他已公布方(fang)案至少需要256卡。
此外異(yi)構(gou)聚(ju)合算(suan)力(li)方面，壁(bi)仞(ren)科技自(zi)主原創了異(yi)構(gou)GPU協同訓(xun)(xun)練方案HGCT，支持4種及以上異(yi)構(gou)GPU協同訓(xun)(xun)練同一個大(da)模型，解決了異(yi)構(gou)混訓(xun)(xun)的關鍵技術挑(tiao)戰(zhan)，已(yi)實現數(shu)千(qian)卡(ka)規模混訓(xun)(xun)，下一步將突破萬卡(ka)混訓(xun)(xun)。
▲壁(bi)仞科技AI軟件首席架構師丁云帆
5、英諾天使基金王晟：AI應用爆發，需要新終端設備的出現
英諾天使基金合伙(huo)人王晟談(tan)道，2023年(nian)是大語言模型(xing)的(de)爆發期，2024年(nian)則轉向多模態技(ji)術，但2024年(nian)被(bei)寄(ji)予厚望的(de)“AI應用元年(nian)”并未如期而至，主要原因是缺乏新(xin)終端設備和(he)新(xin)場(chang)景(jing)定(ding)義，當前既(ji)有設備的(de)場(chang)景(jing)需求已(yi)接近飽(bao)和(he)。
▲英諾天使基(ji)金合伙人王晟(sheng)
未來(lai)，AI應用的爆發(fa)可能(neng)需要于(yu)新終端設(she)備、新計算能(neng)力的出現。能(neng)夠提供(gong)情(qing)緒價值(zhi)的AI玩(wan)具和陪(pei)伴類產品也擁(yong)有(you)巨大的潛(qian)力，因為(wei)人類為(wei)情(qing)緒價值(zhi)買單的意愿非常(chang)強烈。
此(ci)外，AI公司(si)的(de)發展方向正從工具提供轉向智能(neng)代(dai)理，未來會成(cheng)為“造(zao)人”的(de)公司(si)，讓AI能(neng)夠(gou)承擔更復雜的(de)任務，甚(shen)至取代(dai)人類從事多(duo)種職業。2025年，AI領域的(de)關鍵詞包括(kuo)應用、AI硬件、具身(shen)智能(neng)和世界模型，這些方向將定義未來的(de)技術和市場(chang)格局。
二、高端對話：中國AGI新征程全速起航，全產業鏈迎巨大發展機會
以《DeepSeek開啟大模型(xing)下(xia)半(ban)場 中國AGI新征(zheng)程全速起航》為(wei)主(zhu)題的高(gao)端對(dui)話，由智一科(ke)技聯合創(chuang)始(shi)人(ren)(ren)、智車芯產媒矩陣總編(bian)輯(ji)張國仁主(zhu)持，彩云(yun)科(ke)技創(chuang)始(shi)人(ren)(ren)兼CEO袁行(xing)遠，GMI Cloud創(chuang)始(shi)人(ren)(ren)兼CEO Alex Yeh，PINE AI聯合創(chuang)始(shi)人(ren)(ren)、首席(xi)科(ke)學(xue)家(jia)李(li)博杰(jie)，智澄AI創(chuang)始(shi)人(ren)(ren)及CEO胡魯輝(hui)，四位(wei)嘉(jia)賓分(fen)別作為(wei)AI應(ying)用(yong)、算力云(yun)、Agent、具(ju)身(shen)智能企業代(dai)表進行(xing)分(fen)享。
智一(yi)科技聯合創始(shi)人、智車芯產媒矩(ju)陣總(zong)編(bian)輯張國(guo)仁談道，今年(nian)春節(jie)以來，從(cong)DeepSeek、人形機器(qi)人到通用(yong)Agent產品Manus，中(zhong)國(guo)團隊(dui)不斷造(zao)出現象級AI產品，2025年(nian)AI發展似乎(hu)進入了(le)“中(zhong)國(guo)時刻(ke)”，隨著中(zhong)國(guo)AGI新征程全速起航，中(zhong)國(guo)市(shi)場、中(zhong)國(guo)公司在全球(qiu)AI格局扮(ban)演(yan)的角色和發展特征都備受關(guan)注。
▲智(zhi)一科技聯合創始人、智(zhi)車芯(xin)產媒矩(ju)陣總編輯張國仁
1、DeepSeek顯著提升成本效益
PINE AI聯合創(chuang)始人(ren)、首席科學家李博(bo)杰認(ren)為，DeepSeek-R1揭(jie)示(shi)了大模型(xing)訓(xun)練(lian)的真(zhen)實(shi)成本(ben)，讓世界了解到(dao)只(zhi)要方法得當，便(bian)能訓(xun)練(lian)出優秀的模型(xing)。
GMI Cloud創(chuang)始(shi)人兼CEO Alex Yeh談道(dao)，DeepSeek的開源模型顯著降(jiang)低(di)了企業的部(bu)署成(cheng)(cheng)本(ben)，使企業能夠(gou)以低(di)成(cheng)(cheng)本(ben)快速構(gou)建(jian)應用。
彩(cai)云(yun)科技創始人(ren)兼CEO袁行遠更是(shi)用事(shi)實(shi)說話，提(ti)到彩(cai)云(yun)科技旗下產品在(zai)切換(huan)到DeepSeek后(hou)，成本降低了90%，毛利率轉正。
▲彩云科技創始人兼CEO袁行(xing)遠
2、中國開源活躍度高，年輕人展現出后發優勢
談(tan)及中(zhong)美AI發展的差異(yi)，Alex Yeh觀察(cha)到，中(zhong)國(guo)(guo)在開源社區的活躍度和快速落(luo)地能力顯著優于美國(guo)(guo)，這也意味著中(zhong)國(guo)(guo)在AI應用(yong)爆(bao)發上會有巨(ju)大的機(ji)會。
▲GMI Cloud創始人兼(jian)CEO Alex Yeh
彩云科技(ji)旗(qi)下的產品(pin)正在(zai)出海(hai)。袁行遠分享說，海(hai)外用(yong)(yong)戶(hu)對數據、隱(yin)私(si)等問題的關(guan)注度較高，與國內用(yong)(yong)戶(hu)區(qu)別明(ming)顯。他認為(wei)中國有望通過大(da)量高質量的人才儲備，在(zai)中美AI對決中取勝。
在(zai)李博杰看來，AI行業(ye)領域知識獲取更便捷，對經驗(yan)的要求相對較少，使許(xu)多年輕的中國企(qi)業(ye)和(he)研究者(zhe)能(neng)展現(xian)出后發優勢。
3、做基礎模型還是AI應用？
針(zhen)對(dui)做基(ji)礎(chu)模型(xing)還是(shi)AI應(ying)用(yong)的選擇問題，Alex Yeh認為大廠偏重基(ji)礎(chu)模型(xing)的訓練，而中小企(qi)業則應(ying)專注于快速落地(di)和應(ying)用(yong)開發。
AI訓(xun)練需(xu)要消(xiao)耗海量的數(shu)據與算力。智澄AI創(chuang)始人及CEO胡魯輝相信，未(wei)來的創(chuang)新將(jiang)圍(wei)繞如何更高效地利用數(shu)據和(he)算力展開(kai)，創(chuang)業公司在未(wei)來十年也仍將(jiang)有巨(ju)大的發展空間(jian)。
▲智澄AI創始人及CEO胡魯(lu)輝
彩云科技既(ji)做(zuo)AI基礎研究，又(you)開發了(le)彩云天氣(qi)、彩云小夢(meng)等AI應用。在袁行遠(yuan)看(kan)來，在AI應用落地的(de)過程(cheng)中，高性能(neng)底(di)層模(mo)型已如“電力”般(ban)廣泛(fan)可及，行業(ye)重點逐漸從基礎算法(fa)轉變為對應用細節的(de)極致(zhi)追求。以天氣(qi)預報為例，通用AI模(mo)型無法(fa)敏銳地識(shi)別(bie)云圖中的(de)細微變化和噪(zao)音，需要運用大(da)量的(de)一線行業(ye)知識(shi)才能(neng)完美勝任。
4、未來兩年是垂直領域Agent的關鍵突破口
PINE AI正在(zai)打造能(neng)聽、能(neng)看、能(neng)說、能(neng)操作電腦的通用AI Agent，未來(lai)希望成為數(shu)字員工和個人助(zhu)理。
李博(bo)杰說，Agent的(de)形態(tai)正在(zai)變化，決(jue)策能力、通用(yong)性不斷(duan)增強(qiang)，未來兩年是垂直領域Agent的(de)關(guan)鍵(jian)突(tu)破口(kou)，企業需要(yao)在(zai)這一階段積累品牌聲譽(yu)與(yu)網(wang)絡效應，為2027年左右通用(yong)Agent爆發做好準備。
▲PINE AI聯合創始(shi)人、首席科學家李博杰
除了完(wan)成單一任(ren)務(wu)之外，通用Agent的價值還(huan)在(zai)于并行完(wan)成大(da)量重復性工(gong)作，為生(sheng)產、生(sheng)活節省時間，提供(gong)便利。在(zai)李博杰看來，這類Agent有(you)望在(zai)2025年初步落地，產生(sheng)價值。
5、具身智能可能在五年內實現
胡魯輝談道，大模(mo)型可能只是(shi)AI發展的一個(ge)階段性成果，AI發展正從生成式AI邁(mai)向物理智(zhi)能，最終(zhong)實現(xian)通用人工智(zhi)能（AGI）。
李(li)博(bo)杰也認(ren)為，具身智能(neng)很有可能(neng)是AI到達甚至超過AGI的(de)路徑。具身智能(neng)在與(yu)(yu)現實(shi)世界交互的(de)過程(cheng)中，獲(huo)得大(da)量知(zhi)識與(yu)(yu)數據(ju)，助力(li)模型(xing)能(neng)力(li)持續提升。
Alex Yeh預(yu)測(ce)具身智能將(jiang)在未(wei)來五年(nian)內實(shi)現，特別是在工業領(ling)域的應用。
他(ta)提到多模態數據的(de)整合將推(tui)動AI向更高(gao)維度發(fa)展，為AGI的(de)實(shi)現提供新的(de)路徑(jing)。AI目前(qian)還(huan)缺少物理數據，通過VR、AR等技(ji)術收集，并(bing)結合虛擬場(chang)景訓練，可加速具身(shen)智能的(de)發(fa)展。
針對近期資(zi)本(ben)退出(chu)人形(xing)機(ji)器人公(gong)司的爭議，胡魯輝(hui)相信行業共識(shi)能夠推(tui)動科技(ji)發展、人類進步，堅持(chi)長(chang)(chang)期主義很(hen)重(zhong)要，亞馬遜、微軟(ruan)等大公(gong)司的成功都源于長(chang)(chang)期堅持(chi)。因此(ci)，投(tou)資(zi)應注重(zhong)長(chang)(chang)期價值。
三、GenAI應用論壇：從生活到企業，如何用AI掀起生產效率變革？
伴隨著(zhu)前沿(yan)模型快速迭(die)代突破，AI應用迎來(lai)(lai)前所未(wei)有(you)的(de)(de)繁(fan)榮期，快速將AI技術轉化成能夠(gou)解決消費(fei)級、生產級問題，帶來(lai)(lai)實際價(jia)值的(de)(de)賦(fu)能工(gong)具。
在(zai)大(da)會首日GenAI應(ying)用論壇上(shang)，AI平臺、視頻生成、智算云、AI PPT、AI搜索、AI動漫、端側芯片領域的嘉賓代表(biao)各抒己見，剖析(xi)產業問題，暢談落地思路，分(fen)享他們在(zai)真實(shi)應(ying)用場景中(zhong)的實(shi)踐經驗和(he)對未來趨勢的研(yan)判。
1、楓清科技高雪峰：單一模型無法解決生產級問題，AI落地產業有三要素
楓清(qing)科技(ji)Fabarta創(chuang)始人兼CEO高(gao)雪峰認為(wei)，單一產品、技(ji)術或模型(xing)難以解決復雜的生(sheng)產級問題，只有(you)將各(ge)類(lei)AI技(ji)術落地(di)在企業(ye)、產業(ye)之(zhi)中(zhong)，帶來真正的高(gao)價值場景，融合為(wei)生(sheng)態系統，才(cai)能讓AI技(ji)術更富有(you)生(sheng)命力、更繁榮。
AI技(ji)術(shu)在產業(ye)中落地，有三個關鍵要(yao)(yao)素：知識引擎(qing)、行業(ye)大(da)模(mo)型、智(zhi)能(neng)體平臺。要(yao)(yao)把生成(cheng)式AI技(ji)術(shu)應用(yong)到產業(ye)端，最需要(yao)(yao)實(shi)現決(jue)策智(zhi)能(neng)。
楓(feng)清科技采取(qu)了以數據為中心的AI平臺(tai)架(jia)構(gou)落地(di)的范式，還推出知(zhi)識引擎和(he)行業(ye)大(da)模型雙(shuang)輪驅動(dong)的智能(neng)體平臺(tai)，幫(bang)助(zhu)企業(ye)實現多(duo)場景價值(zhi)落地(di)。該平臺(tai)通(tong)過多(duo)模態(tai)數據存儲和(he)計(ji)算，智能(neng)化(hua)構(gou)建(jian)企業(ye)知(zhi)識庫(ku)，支(zhi)持精準推理(li)和(he)復雜推理(li)能(neng)力。
▲楓清科技Fabarta創(chuang)始人兼CEO高雪峰
2、愛詩科技孫偉哲：視頻模型需兼顧趣味與速度，幫每個人成為生活的導演
愛詩科(ke)技(ji)是全球最早訓練視頻生成(cheng)大模(mo)型(xing)的團隊之(zhi)一，正以高頻的技(ji)術研(yan)發節奏，進行底層模(mo)型(xing)的迭代。愛詩科(ke)技(ji)企服負責人(ren)孫偉哲分享說，針對短視頻時代用戶(hu)習(xi)慣的特點，打造視頻生成(cheng)模(mo)型(xing)需要兼顧趣味與速度，前者能促進用戶(hu)的關注與傳播，而后者則(ze)是提升(sheng)用戶(hu)體驗(yan)的關鍵。
語(yu)言曾(ceng)經是傳(chuan)遞信(xin)息(xi)的最(zui)好(hao)介質，但目(mu)前我(wo)們(men)接受的大(da)部分信(xin)息(xi)都來自(zi)于(yu)視頻。全球視頻創(chuang)作需求(qiu)已大(da)量(liang)涌現，日(ri)均(jun)視頻播放(fang)量(liang)達(da)800億(yi)次(ci)，企業也需要通(tong)過AI技術(shu)實(shi)現視頻內容生產的降本增效。愛詩科(ke)技希望通(tong)過視頻生成(cheng)技術(shu)，實(shi)現創(chuang)作平權，幫助(zhu)每(mei)個人成(cheng)為生活的導演。
愛詩科(ke)技(ji)的PixVerse是全(quan)球最早實(shi)現千萬級MAU的視頻(pin)生成產品，并同步發(fa)力B端(duan)業(ye)(ye)務(wu)，利用視頻(pin)生成技(ji)術，為企業(ye)(ye)客戶在(zai)數字營銷、信息流廣告、短劇創作與(yu)出海、游戲設計與(yu)開發(fa)等(deng)領域提供(gong)助力，并提供(gong)了持續(xu)、精準的運營服務(wu)。
▲愛詩科(ke)技(ji)企服負責人孫偉哲
3、GMI Cloud King Cui：推理服務成AI出海關鍵支撐，及時彈性擴容是核心性能
GMI Cloud亞太區總裁King Cui談道(dao)，基礎模型能力(li)提(ti)升和(he)開源生(sheng)態的豐富，為(wei)AI應用爆發提(ti)供了(le)核心必要條件，這(zhe)背(bei)后(hou)，為(wei)中(zhong)國AI產品出海提(ti)供關鍵支撐(cheng)的就是推理算力(li)。
AI應用往往會出(chu)現用戶規模和訪問量短期暴(bao)漲等現象，因此提供(gong)及(ji)時(shi)性(xing)、擴展性(xing)、穩定性(xing)的推理服務至關重(zhong)要(yao)。
GMI Cloud的目(mu)標是打造(zao)更高性能的GPU推(tui)理(li)云服(fu)務，支持全球范圍(wei)自動擴縮容、一鍵部署推(tui)理(li)模型、搭載(zai)自動容錯機制等(deng)。
▲GMI Cloud亞(ya)太區總裁(cai)King Cui
4、像素綻放PixelBloom蒲世林：AI帶來的效率革新符合發展趨勢，需理性擁抱
像素綻放PixelBloom（AiPPT.com）聯合創始人蒲世林談(tan)道，隨著底層算力和模型(xing)層成本的顯著下降，AI應用(yong)層迎來全(quan)面爆(bao)發的機(ji)遇。
像素綻放PixelBloom在AI PPT領域，通過ToC、To Partner ToC、ToB三種(zhong)商(shang)業化路徑(jing)，既(ji)直接(jie)服(fu)務(wu)消費(fei)者，也與(yu)頭部企業合作提(ti)升(sheng)辦公(gong)效率(lv)；同時(shi)還開放API能力，與(yu)聯想、釘(ding)釘(ding)等硬(ying)件(jian)和軟(ruan)件(jian)廠商(shang)深度(du)集(ji)成(cheng)，構建(jian)開放生(sheng)態，覆蓋(gai)辦公(gong)人(ren)群。
在(zai)進軍(jun)海外市(shi)場(chang)時，AiPPT.com注重做(zuo)好本(ben)土化(hua)，提供多語言版本(ben)和本(ben)地化(hua)模板，滿足不同(tong)國家的市(shi)場(chang)需求，還通過孵化(hua)和并購(gou)來(lai)擴展產品矩陣。
在蒲(pu)世(shi)林(lin)看(kan)來(lai)，AI技術(shu)帶來(lai)的(de)效率革新符(fu)合人類發展趨勢，企業需(xu)理性擁(yong)抱AI，不低估但也別期(qi)待過高，通過實際應(ying)用探(tan)索能力(li)邊(bian)界，以抓住(zhu)未來(lai)十年的(de)AI紅利(li)。
▲像(xiang)素綻放PixelBloom（AiPPT.com）聯合創始人蒲(pu)世林(lin)
5、博查AI翁柔瑩：AI比人類更需要搜索引擎
博查(cha)AI搜(sou)索(suo)聯(lian)合(he)創始人(ren)兼CTO翁柔瑩認為，AI時代，用戶(hu)的搜(sou)索(suo)習慣(guan)已由“關鍵詞搜(sou)索(suo)”轉變為“自然語(yu)言對話”，內容(rong)的生產、流動、消(xiao)費也在(zai)發生變化(hua)，在(zai)AI為用戶(hu)整理(li)、總結信息的過程中，內容(rong)的消(xiao)費主體(ti)已經(jing)變成了AI。
AI大模型(xing)的訓練(lian)數據存在(zai)滯后性(xing)，必須通過聯網(wang)搜(sou)索來獲取最(zui)新的內(nei)容(rong)，才能為(wei)用戶提(ti)供(gong)更好(hao)的信(xin)息服務，從這(zhe)一角度來看，AI比人類更需要搜(sou)索引擎。
為AI打造(zao)的搜(sou)(sou)索(suo)引擎與傳(chuan)統(tong)搜(sou)(sou)索(suo)引擎在架構上有相(xiang)似之處，依舊需要(yao)實時獲取高(gao)質量信(xin)息。博查(cha)采(cai)用多(duo)模態混合(he)搜(sou)(sou)索(suo)和語(yu)義排序技術，能突(tu)破傳(chuan)統(tong)搜(sou)(sou)索(suo)引擎的技術瓶(ping)頸，滿足大(da)模型對(dui)于高(gao)質量世界知識(shi)的需求，還打造(zao)了(le)全球(qiu)首個(ge)多(duo)Agent架構的智能體(ti)搜(sou)(sou)索(suo)，為AI提供(gong)專業領域知識(shi)。
▲博(bo)查AI搜索(suo)聯合創(chuang)始人兼(jian)CTO翁柔瑩
6、中文在線周立強：AI降低動漫短劇門檻，制作成本降低50%
中文(wen)在線AI動(dong)漫部總經(jing)理周(zhou)立強談道(dao)，中國(guo)AIGC應用市場正(zheng)在加(jia)速發展，預(yu)計2024年(nian)(nian)(nian)至(zhi)2028年(nian)(nian)(nian)年(nian)(nian)(nian)均復合增(zeng)長率將超過30%。作為勞動(dong)密集型(xing)行(xing)業，動(dong)漫領域正(zheng)受到(dao)AIGC相關工具的深刻(ke)影響。
傳(chuan)統動漫(man)(man)短劇制(zhi)作通常包含原文理(li)解、劇本改寫(xie)等11個環節，而AI已將流程壓縮(suo)至設(she)定理(li)解、生圖(tu)合成(cheng)(cheng)、后期(qi)處理(li)等5個步驟。AI動漫(man)(man)短劇的優勢在于具備跨(kua)國傳(chuan)播能力、支持工業化量產，且制(zhi)作成(cheng)(cheng)本顯(xian)著(zhu)下降——單(dan)部(bu)作品的制(zhi)作周期(qi)可(ke)縮(suo)短70%，成(cheng)(cheng)本降低(di)約(yue)50%。
周(zhou)立強指出，AI動漫短劇已逐步突破單一流(liu)量變(bian)現階段。預計未來三年，掌握AIGC全鏈路能(neng)力的(de)團隊有望占據全球短劇市場30%以(yi)上的(de)份額。
▲中(zhong)文在線AI動漫部總經理周立強
7、光羽芯辰周強：端側AI的發展促使手機架構變革，可能孕育出新的大型公司
光羽芯辰創始人兼董事(shi)長周強(qiang)談道(dao)，過(guo)去幾(ji)年，AI經歷(li)了從低谷(gu)到高峰的(de)周期(qi)，AI創新(xin)的(de)核心在于實用性，只(zhi)有當技術(shu)可用且(qie)有價(jia)值時，市場關注度才會提升。
早期(qi)AI應用(yong)多局(ju)限于(yu)云端，而端側AI的(de)興(xing)起使(shi)AI能夠深入生(sheng)產生(sheng)活各領域，比如應用(yong)到(dao)工廠的(de)機器(qi)人(ren)上，顯著(zhu)提升生(sheng)產力。大模(mo)型(xing)的(de)出現增強了(le)(le)AI能力，但也暴(bao)露了(le)(le)硬件(jian)性(xing)能不足的(de)問(wen)題。
端(duan)(duan)側(ce)AI需要新(xin)的(de)(de)技術架構以(yi)降低功耗、提升性能(neng)和帶寬。以(yi)手(shou)(shou)機為(wei)(wei)例，隨著AI未來的(de)(de)發展(zhan)趨勢，智能(neng)手(shou)(shou)機將進化(hua)為(wei)(wei)AI手(shou)(shou)機，將集(ji)成更多端(duan)(duan)側(ce)數據(ju)，成為(wei)(wei)所有智能(neng)終端(duan)(duan)的(de)(de)中心，光羽芯(xin)辰的(de)(de)端(duan)(duan)側(ce)芯(xin)片以(yi)及創新(xin)的(de)(de)解決方(fang)案和架構將極大的(de)(de)助力這一變革。
▲光羽芯辰(chen)創(chuang)始人(ren)兼董事長周強(qiang)
8、Zilliz郭人通：對于Agent構建，我們如何有效支持海量數據檢索，挖掘隱藏于長尾的高價值信息？
Zilliz關(guan)注如何有效檢索海量數據，發掘隱藏于長尾(wei)的高(gao)價值信息。在OpenAI發布Deep Research功能之后，Zilliz也(ye)嘗試了復刻(ke)。
據(ju)Zilliz合伙人、產品總監郭人通分享(xiang)，對于Deep Research這(zhe)類(lei)Agent系(xi)統，在數據(ju)基礎(chu)設(she)施(shi)層面(mian)需要在數據(ju)建模、部署、緩存(cun)、多(duo)租(zu)、冷熱(re)數據(ju)處理等方面(mian)做好優化，聚(ju)焦信(xin)息檢索質量，提(ti)高單位成本(ben)可支撐的檢索迭代輪(lun)次，以(yi)(yi)保(bao)證 Agent 對問題(ti)的理解(jie)度(du)以(yi)(yi)及(ji)對信(xin)息的挖掘深度(du)。Zilliz目前(qian)已(yi)提(ti)供(gong)系(xi)統性解(jie)決(jue)方案。
對(dui)于提(ti)高(gao)查(cha)(cha)詢質(zhi)量，目前有一系列經過(guo)生產驗證的(de)方法，包括查(cha)(cha)詢改寫，如多(duo)查(cha)(cha)詢條(tiao)件生成、查(cha)(cha)詢拆(chai)解、意圖(tu)識別等，這有助于突破傳統(tong)RAG技(ji)術的(de)搜索(suo)局限性。此外，帶正負(fu)樣本(ben)的(de)查(cha)(cha)詢增強(qiang)、多(duo)模態搜索(suo)也能有效提(ti)升搜索(suo)質(zhi)量。
目前，許多企(qi)業已切入垂直Agent方(fang)向，海量領(ling)域(yu)數(shu)據(ju)也引發數(shu)據(ju)Infra的(de)變革，基(ji)于S3構(gou)建(jian)的(de)數(shu)據(ju)Infra正逐漸獲得更多企(qi)業用(yong)戶的(de)選用(yong)。今(jin)年下半年，Zilliz將推出(chu)面(mian)向AI應用(yong)的(de)數(shu)據(ju)湖解決(jue)方(fang)案，從五月開始，Zilliz會(hui)面(mian)向業界進行介紹，敬(jing)請關注。
▲Zilliz合伙人、產品總(zong)監郭人通
四、大模型峰會：判趨勢，剖解法，全面直擊算法、算力、數據挑戰
大(da)(da)會第二天舉行的(de)(de)大(da)(da)模(mo)型(xing)(xing)峰會，更加(jia)聚焦于大(da)(da)模(mo)型(xing)(xing)產業鏈底層技術，從模(mo)型(xing)(xing)、中間件(jian)、云服務、知識圖譜、存儲、網(wang)絡、芯片(pian)、數據平(ping)臺等多維度切(qie)入，探討突破大(da)(da)模(mo)型(xing)(xing)算(suan)(suan)法、算(suan)(suan)力、數據關鍵瓶頸的(de)(de)可行路徑。
現場，焱融科技首次發布了KV Cache在推理場景性能優化數據。實測數據(ju)顯示：在長上下文場景中(zhong)，使用YRCloudFile KVCache可(ke)實現高(gao)達13倍(bei)的(de)TTFT性(xing)能提升，延(yan)時(shi)縮短超4倍(bei)。
1、上交大戴國浩：全面直擊云邊端不同場景推理需求挑戰，半分離式方案下周開源
上(shang)海交(jiao)通大(da)學副教授、無問芯穹聯合創始人(ren)戴國浩(hao)談道，真正能模仿人(ren)類智力的模型往往是推理(li)需(xu)求，但現有(you)云側和(he)端側很難滿足模型推理(li)需(xu)求。
云側(ce)有PD融(rong)合式、PD分離式兩種技術路線(xian)，其中，PD融(rong)合式的技術路線(xian)將計算(suan)(suan)和存儲進行融(rong)合的好處是內(nei)存利(li)用率更高、無需(xu)傳遞KV cache，但(dan)缺點是不同任務間干擾大(da)；PD分離式技術路線(xian)，將計算(suan)(suan)和存儲資源(yuan)分離的好處是計算(suan)(suan)單元(yuan)容(rong)易隔(ge)離、抗(kang)干擾，但(dan)存儲冗余和不均衡會(hui)帶來額外開銷。
因此，無問芯穹取長補短打造半分(fen)(fen)離(li)式方案Semi-PD，實現(xian)計算分(fen)(fen)離(li)存(cun)儲(chu)融合，Semi-PD將于一周后開源整體(ti)代碼，月底開源整個集群(qun)代碼，Semi-PD在一體(ti)機(ji)和分(fen)(fen)布式集群(qun)推理等場景下將帶來(lai)顯著性(xing)能提升。
其端(duan)側思(si)路是(shi)通過輕(qing)量(liang)化方(fang)(fang)式讓(rang)終(zhong)端(duan)負載(zai)變(bian)小，SpecEE技術(shu)引入機器學習、模型自適應等，可(ke)以判斷是(shi)否在級(ji)聯結(jie)構當前層輸出了正(zheng)確結(jie)果。該技術(shu)能無感兼容任何端(duan)側輕(qing)量(liang)化方(fang)(fang)案，整套代碼將在本月開(kai)源。
▲上海(hai)交通大學副教授、無問(wen)芯穹聯合(he)創(chuang)始人戴國(guo)浩
2、智澄AI胡魯輝：人形機器人“不好用”，與大模型數據挑戰有差別
智澄AI創始人(ren)(ren)兼CEO胡魯輝認為，機器(qi)(qi)人(ren)(ren)將是(shi)未來AI生態中(zhong)的(de)重要組成(cheng)部分，物理智能(neng)有望成(cheng)為AI的(de)下(xia)一(yi)波浪潮，實現更廣(guang)泛的(de)通用(yong)人(ren)(ren)工智能(neng)。目前人(ren)(ren)形機器(qi)(qi)人(ren)(ren)泛化能(neng)力較(jiao)差，直接(jie)導致成(cheng)本高昂，歸(gui)根(gen)結(jie)底(di)就是(shi)“不好用(yong)”。
與大模(mo)型(xing)一樣，物(wu)理智能面(mian)臨著數據(ju)、模(mo)型(xing)、環境(jing)、算力等方面(mian)的挑戰，但挑戰的內(nei)核有所(suo)區(qu)別。物(wu)理智能可用的數據(ju)量(liang)更少，需要(yao)在(zai)“機(ji)器人(ren)訓練場”中(zhong)采集數據(ju)，機(ji)器人(ren)端側算力限(xian)制也(ye)對模(mo)型(xing)能效提出了要(yao)求(qiu)。
智澄(cheng)AI從世界模型的研發與人(ren)形(xing)機器人(ren)本體(ti)的打造兩個角度切入，打造的TR4機器人(ren)能以視(shi)覺+力(li)度感知的方案實現(xian)物體(ti)抓(zhua)握，無(wu)需依賴觸覺。
▲智(zhi)澄(cheng)AI創始人兼(jian)CEO胡(hu)魯輝(hui)
3、焱融科技張文濤：高性能全閃存儲在訓練與推理中如何破解AI算力瓶頸？
焱融科(ke)技CTO張文濤分享說，針對(dui)大模(mo)型訓練和推理的存儲解決(jue)方案，焱融科(ke)技通過Multi-Channel技術聚合多個網卡、帶(dai)寬(kuan)等，提供高(gao)性能(neng)內核私(si)有客(ke)戶端，能(neng)夠滿足高(gao)性能(neng)元數據(ju)訪問(wen)需求，為企業提供高(gao)效(xiao)、靈活的存儲支持。
焱(yan)融(rong)科技在數(shu)(shu)(shu)據(ju)管(guan)理(li)(li)方面(mian)，采(cai)取智能分層和(he)數(shu)(shu)(shu)據(ju)加載功能來優化管(guan)理(li)(li)流程。此外，焱(yan)融(rong)科技順(shun)勢推出的(de)DataInsight數(shu)(shu)(shu)據(ju)編排管(guan)理(li)(li)平(ping)臺，幫助企業(ye)解決其應(ying)用(yong)AI大模型(xing)中的(de)海量(liang)歷史業(ye)務(wu)(wu)數(shu)(shu)(shu)據(ju)管(guan)理(li)(li)難題；支(zhi)持多維(wei)度組合(he)查詢，實(shi)現百(bai)億(yi)級數(shu)(shu)(shu)據(ju)秒級檢(jian)索。通過(guo)自(zi)研DataFlow技術，用(yong)戶(hu)可自(zi)定義數(shu)(shu)(shu)據(ju)流動策略，確保數(shu)(shu)(shu)據(ju)按需、快(kuai)速嵌入(ru)業(ye)務(wu)(wu)流程。平(ping)臺還具(ju)備增量(liang)數(shu)(shu)(shu)據(ju)自(zi)動感(gan)知能力，保障用(yong)戶(hu)從知識庫平(ping)臺訪(fang)問時獲(huo)取最新數(shu)(shu)(shu)據(ju)，進一步提(ti)升(sheng)數(shu)(shu)(shu)據(ju)流動效率。
在運維方(fang)面，焱融科技通過提供目錄集(ji)來做好多租(zu)戶管理(li)和隔離，并(bing)設(she)置了彈性數據網(wang)絡(luo)，使一套存儲能夠(gou)支持多種網(wang)絡(luo)平面，并(bing)幫助(zhu)管理(li)員簡化基(ji)礎設(she)施(shi)建設(she)。
其產品性能(neng)(neng)出色(se)，依托(tuo)于分布式元數據(ju)集群能(neng)(neng)夠(gou)支(zhi)撐千(qian)億級海量(liang)文(wen)件，能(neng)(neng)夠(gou)支(zhi)持高(gao)速無損網(wang)絡及多種接(jie)口(kou)，還適(shi)配多個國(guo)產化平臺。在本屆大會上，焱(yan)融科技(ji)還首次發布了(le)KV Cache在推理(li)場景(jing)性能(neng)(neng)優化數據(ju)。
實測(ce)數(shu)據(ju)顯示：在(zai)長上下文場景中(zhong)，使用(yong)YRCloudFile KVCache可(ke)(ke)實現(xian)高(gao)達(da)13倍的TTFT性能提(ti)升(sheng)。在(zai)TTFT≤2秒的嚴(yan)苛約束下，其支持的并(bing)發數(shu)提(ti)升(sheng)達(da)8倍，且在(zai)高(gao)并(bing)發負(fu)載中(zhong)延遲可(ke)(ke)降低4倍以上。張文濤談到YRCloudFile KVCache可(ke)(ke)構建PB級KVCache緩存層，有效突(tu)破GPU顯存限制，顯著提(ti)升(sheng)緩存命中(zhong)率與(yu)推理上下文長度。
▲焱融科技CTO張文濤
4、Zenlayer陳秀忠：token洪流下算力網絡三大趨勢，實時交互、分布式推理、高效IDC
Zenlayer行業拓(tuo)展總監陳(chen)秀忠談道，token是大模型世界(jie)的(de)基(ji)礎單(dan)位，過去8個月，token使得(de)整(zheng)個網絡世界(jie)流(liu)量增(zeng)長，達到移(yi)動互聯網時代的(de)3～4倍。
token的整(zheng)個生(sheng)(sheng)命周(zhou)期(qi)包括AI工(gong)廠(chang)生(sheng)(sheng)產，再(zai)經網絡傳輸(shu)給用戶(hu)，其(qi)在生(sheng)(sheng)產過程(cheng)需要(yao)大(da)量算力和電力，在傳輸(shu)和消(xiao)費(fei)環節需要(yao)靠近用戶(hu)的推理節點實(shi)現即時交互(hu)。
在(zai)token洪(hong)流下，未來的(de)(de)三個演進趨勢包括實時交(jiao)互的(de)(de)全(quan)球網絡、分(fen)布式推(tui)(tui)理的(de)(de)易(yi)用模型(xing)服務、高(gao)效(xiao)的(de)(de)IDC。基(ji)于此，Zenlayer構(gou)建了(le)覆(fu)(fu)蓋(gai)全(quan)球的(de)(de)專線(xian)網絡、覆(fu)(fu)蓋(gai)亞太地(di)區的(de)(de)AI機房(fang)、在(zai)現有邊緣節點(dian)推(tui)(tui)出模型(xing)服務等。
▲Zenlayer行業拓展總監陳秀忠
5、清程極智師天麾：如何打造國產模型與國產算力間的橋梁？
清程極(ji)智聯合(he)創始(shi)人、產(chan)(chan)品副總裁(cai)師(shi)天麾分享說，在(zai)DeepSeek、QwQ等(deng)國產(chan)(chan)推(tui)理(li)模型(xing)爆火之后，大模型(xing)私有(you)化部署(shu)需求大幅度增加(jia)。在(zai)國外算(suan)力獲取(qu)困難、國產(chan)(chan)顯卡軟件生態(tai)不完善(shan)的背景下，打(da)造(zao)連接國產(chan)(chan)模型(xing)與國產(chan)(chan)算(suan)力的橋梁尤為迫切。
清程極智(zhi)已聯合清華大(da)學開源了赤兔推理引(yin)擎，支持在非Hopper架(jia)構設備（如(ru)早(zao)期(qi)大(da)部分(fen)(fen)英(ying)偉達GPU和大(da)部分(fen)(fen)國(guo)產芯片(pian)）上(shang)原(yuan)生(sheng)運行(xing)FP8模(mo)(mo)型，打破硬件綁(bang)定，提升(sheng)算(suan)力使用(yong)效(xiao)率，并能有效(xiao)保留模(mo)(mo)型原(yuan)有精度。
目前清程極智基(ji)于赤兔引擎推出多款大(da)模型(xing)私(si)有(you)(you)化部署方(fang)案(an)，可根據不同場景需求提供針對性解決方(fang)案(an)，結合企(qi)業業務，提供從私(si)有(you)(you)化部署到智能(neng)體開發(fa)的一站式服(fu)務。
▲清程極智聯合創始(shi)人、產品副總裁師天麾
6、首都在線張振宇：以全棧國產化為特色，助攻生成式AI規模化落地
首都在線(xian)集團智(zhi)算(suan)產(chan)品(pin)總(zong)經理(li)張振宇談道，隨著DeepSeek爆火，AI大模(mo)(mo)型國產(chan)化趨勢正在加速，推理(li)市場將(jiang)迎來大規模(mo)(mo)增長。首都在線(xian)后續也會更聚焦于推理(li)算(suan)力的布局。
此前(qian)首都在線(xian)智(zhi)算云(yun)已成功(gong)應用(yong)于多(duo)(duo)個生成式(shi)AI場(chang)景，如自然語言(yan)處理、圖像生成、視頻生成等，公司今年將持(chi)(chi)續優(you)化“一(yi)云(yun)多(duo)(duo)模(mo)、一(yi)云(yun)多(duo)(duo)芯、一(yi)云(yun)多(duo)(duo)池”的(de)戰(zhan)略布局，去構(gou)建高(gao)度靈活的(de)AI服務平臺，我們(men)的(de)平臺不斷拓(tuo)展支持(chi)(chi)的(de)模(mo)型種類，為用(yong)戶提(ti)供(gong)更豐富的(de)選(xuan)擇，滿足不同(tong)場(chang)景需求。
首都在線Maas云(yun)(yun)平臺通過(guo)構建云(yun)(yun)端協同調優體系，以算(suan)力(li)效(xiao)(xiao)(xiao)能優化為(wei)(wei)基礎(chu)、模型(xing)即(ji)服務（MaaS）平臺為(wei)(wei)核心，為(wei)(wei)AI開發者及算(suan)力(li)伙伴帶(dai)來(lai)創新性升(sheng)級，形成(cheng)了閉環(huan)式技(ji)術(shu)解決(jue)方案，不僅(jin)有效(xiao)(xiao)(xiao)提升(sheng)了GPU利(li)用率(lv)，降低了訓練成(cheng)本，能夠為(wei)(wei)客戶(hu)提供(gong)(gong)更(geng)加(jia)高效(xiao)(xiao)(xiao)、靈活、低成(cheng)本的(de)算(suan)力(li)服務，還為(wei)(wei)大模型(xing)從實(shi)驗室走向產(chan)業化提供(gong)(gong)了關(guan)鍵(jian)技(ji)術(shu)支撐。
▲首都(dou)在線集(ji)團智(zhi)算產品總經(jing)理張振宇
7、海致科技李思宇：以圖為核心，打通大模型與多模態行業知識
海致科技技術總(zong)監李思(si)宇(yu)談道，大(da)模(mo)型實際項目(mu)落地的(de)Prompt提示詞(ci)工程(cheng)，RAG檢索召(zhao)回增強(qiang)、Agent Function/Tool Call、SFT監督(du)微(wei)調訓練四種基本(ben)方(fang)法，其關鍵(jian)是讓大(da)模(mo)型結合多模(mo)態行(xing)業知識。
針對(dui)此，海致科技的(de)思路是統(tong)一知(zhi)識與數(shu)據認知(zhi)，其解決方(fang)案(an)以(yi)圖為核心，結合(he)工具將標量數(shu)據和向量數(shu)據打通形成有機整體。
通過將大模型與知識圖譜(pu)融合，海(hai)致科技形成(cheng)了基礎模型層(ceng)(ceng)、語義知識層(ceng)(ceng)、邏輯(ji)圖譜(pu)層(ceng)(ceng)、智能體應(ying)用層(ceng)(ceng)，可基于基礎模型、元(yuan)數(shu)據知識體系，在(zai)應(ying)用層(ceng)(ceng)之上構建智能體、工作流。
實際落(luo)地(di)中，其(qi)解決(jue)方案(an)接入警情案(an)件(jian)等五(wu)情數據(ju)，可融(rong)合跨不同事件(jian)、不同情報數據(ju)，形(xing)成完整(zheng)事件(jian)對象(xiang)關系圖(tu)再以此進行(xing)信息挖掘，實現匯聚非結構(gou)化和結構(gou)化數據(ju)的整(zheng)體(ti)圖(tu)譜。
▲海(hai)致科技技術總監李思宇
8、中昊芯英朱國梁：Scaling Law延續下的AI芯片軟件棧重構
中(zhong)昊(hao)芯英軟(ruan)件研發(fa)負責人朱國梁介紹，目前，Scaling Law正(zheng)沿(yan)著(zhu)測(ce)試(shi)時計算(suan)、強化學習與預訓練三(san)條路徑延續。需要不斷重構AI芯片軟(ruan)件棧來(lai)滿(man)足新(xin)的算(suan)力挑戰。
對(dui)大部分廠商而言，超(chao)大Batch-Size依舊是優先事(shi)項(xiang)，下一個Transformer級(ji)別的架(jia)構尚未(wei)出現。
目(mu)前在推理方向優(you)化(hua)，探索方向包(bao)括KV緩存卸載、PD分離、稀疏注(zhu)意力(li)和MoE通信優(you)化(hua)等。
強(qiang)化學習(xi)方面，隨著強(qiang)化學習(xi)兩階段訓練(lian)的范式(shi)形成(cheng)，訓練(lian)和推理協同調度需求不斷增長。
預訓(xun)(xun)練(lian)方面，需要在訓(xun)(xun)練(lian)通信特征、訓(xun)(xun)練(lian)通算重疊與訓(xun)(xun)練(lian)容錯等方面對現有軟(ruan)件(jian)棧做出修改。
▲中昊芯英(ying)軟件研(yan)發負責人(ren)朱(zhu)國梁
9、澳鵬董成：大模型愈往垂類應用端發力，對數據質量要求愈高
澳鵬Appen中(zhong)國及(ji)韓國區副總(zong)裁董成(cheng)通過澳鵬在(zai)各(ge)領域(yu)大模(mo)(mo)型(xing)部署中(zhong)數(shu)據(ju)訓練的最佳實踐，重(zhong)點分享了對(dui)大模(mo)(mo)型(xing)應(ying)用(yong)趨勢的觀察。以AI Agent為代表，未來(lai)，大模(mo)(mo)型(xing)必(bi)定應(ying)用(yong)到具(ju)體(ti)的垂直(zhi)領域(yu)中(zhong)，比如金融、醫療、代碼、音樂、文學(xue)等。
這一趨勢(shi)對數據的高(gao)質(zhi)量、專(zhuan)業(ye)度、多垂(chui)類提(ti)出(chu)了越來越高(gao)的要求。對此(ci)，澳(ao)鵬(peng)提(ti)供(gong)了多種(zhong)AI輔助的前沿數據采標(biao)工具(ju)(ju)和方案，包括文本對話、多模態交互、思維鏈推理(li)工具(ju)(ju)等。
董成(cheng)認(ren)為(wei)，AI大(da)(da)模型行(xing)業(ye)正經歷顯著(zhu)變(bian)化，Llama和(he)DeepSeek等開源(yuan)(yuan)模型在性能上逐(zhu)漸趕上甚至超過閉(bi)源(yuan)(yuan)模型，一(yi)些(xie)企業(ye)也從閉(bi)源(yuan)(yuan)向(xiang)(xiang)著(zhu)開源(yuan)(yuan)方(fang)向(xiang)(xiang)轉變(bian)。同時，大(da)(da)模型企業(ye)的研發越來越關注復雜任(ren)務方(fang)向(xiang)(xiang)，從最初的簡單(dan)對話向(xiang)(xiang)模型推理、垂直領域(yu)應用、多模態等方(fang)向(xiang)(xiang)發展。
▲澳鵬(peng)Appen中(zhong)國及韓國區副(fu)總裁(cai)董成(cheng)
10、云軸科技王為：AI實踐應用分四級，基礎設施構建面臨四大挑戰
云軸科技(ji)CTO王(wang)為(wei)解讀了當前AI基礎設施構建面臨的(de)挑(tiao)戰，包括(kuo)模型尺寸增(zeng)加、上下文窗口增(zeng)加、全模態支持、多品牌算(suan)力支持等。
類比自動駕駛(shi)，AI實踐可對應(ying)作為工具、作為參考(kao)建(jian)議(yi)、主導到端到端實踐的L1~L4級別。云(yun)軸科技(ji)已(yi)在AI輔(fu)(fu)助售后、代碼(ma)、文檔(dang)等方面(mian)有所應(ying)用。其中AI輔(fu)(fu)助售后、代碼(ma)輔(fu)(fu)助處于參考(kao)建(jian)議(yi)階(jie)段，輔(fu)(fu)助文檔(dang)為主導階(jie)段，這背后凸顯出諸多基礎設施的構(gou)建(jian)難題。
AI賦能企業內部的技術架(jia)構需要(yao)穩固的智算底(di)座、模型層(ceng)，以(yi)及包含易用開發(fa)、性(xing)能評(ping)測等工具的運營與應用層(ceng)。模型層(ceng)的資(zi)源管理(li)員主要(yao)關注底(di)層(ceng)資(zi)源使用情(qing)況，開發(fa)者只需直接導入模型做精調、推(tui)理(li)等賦能業務。
▲云軸科技CTO王(wang)為
11、Alluxio湯文軍：AI時代，高性能分布式緩存如何實現極致I/O優化？
Alluxio解決方(fang)案(an)架構師湯文軍分享說(shuo)，企業在搭建和優化AI高性能數(shu)據訪問(wen)平(ping)臺(tai)時，面臨著(zhu)數(shu)據方(fang)面的(de)業務壓力、GPU稀缺(que)昂(ang)貴且利用(yong)率不高、數(shu)據解決方(fang)案(an)復雜(za)等(deng)問(wen)題(ti)。針對這些問(wen)題(ti)，Alluxio推出了(le)去中心化的(de)Alluxio Enterprise AI產(chan)品方(fang)案(an)。
具體來看，針(zhen)對ML/AI GPU訓練對I/O提出(chu)的諸多(duo)要求(qiu)，Alluxio使用(yong)一致性哈希在worker節點(dian)上緩存數(shu)據與元(yuan)數(shu)據，這顯(xian)著減(jian)(jian)少了(le)(le)I/O RPC長度，減(jian)(jian)少單點(dian)故障(zhang)并降低了(le)(le)Master節點(dian)性能瓶(ping)頸；優(you)化(hua)(hua)性能時，使用(yong)零拷貝優(you)化(hua)(hua)、并行與隨機讀優(you)化(hua)(hua)，解決(jue)了(le)(le)讀放大問題。
最終，Alluxio實現(xian)了(le)高性(xing)能(neng)、低延遲、高可用、容(rong)量線性(xing)擴展等(deng)(deng)優化效果(guo)，這套(tao)方案(an)可應用于(yu)數(shu)據(ju)預處理、模型訓(xun)練、部署(shu)、推理等(deng)(deng)環節，已在眾多場景(jing)實際落地，帶來GPU利(li)用率、運維成本(ben)等(deng)(deng)方面的顯(xian)著(zhu)收益。
▲Alluxio解決方案架構師湯文軍
澎峰科技創始人&CEO張先軼分享說(shuo)，用戶在(zai)AI算力部(bu)署上的策略(lve)通常從單(dan)機部(bu)署開始，例如使用一(yi)體(ti)機。隨著需求的增長，用戶會逐步擴展到私有(you)化部(bu)署，通過(guo)MaaS平臺納管(guan)更(geng)多硬件設備，并分批建設算力資(zi)源，還可(ke)以將(jiang)現有(you)服務器納入管(guan)理，形成一(yi)種類(lei)似擴容(rong)的方案(an)。
為了(le)進(jin)一步(bu)提升算(suan)力利用(yong)(yong)率(lv)和數據(ju)隱私(si)安全性(xing)，用(yong)(yong)戶可(ke)(ke)以借助(zhu)國產智算(suan)中心的(de)模(mo)(mo)型(xing)的(de)專(zhuan)線(xian)模(mo)(mo)式(shi)進(jin)行混合部署。這種(zhong)模(mo)(mo)式(shi)不(bu)僅(jin)能(neng)提高計算(suan)中心的(de)資源利用(yong)(yong)率(lv)，還能(neng)在保障數據(ju)隱私(si)的(de)同時，支(zhi)持更多應(ying)用(yong)(yong)場(chang)景。從商業模(mo)(mo)式(shi)上看，專(zhuan)線(xian)部署采用(yong)(yong)ToB性(xing)質(zhi)的(de)計費方式(shi)。未來，用(yong)(yong)戶可(ke)(ke)以在此(ci)基礎(chu)上進(jin)行私(si)有模(mo)(mo)型(xing)的(de)微調部署，支(zhi)持更多應(ying)用(yong)(yong)的(de)開發與擴展(zhan)。
▲澎峰科(ke)技創始人&CEO張先軼
五、圓桌討論：DeepSeek給AI Infra帶來新機會，國產軟硬件發展正當時
圓桌(zhuo)討論環節以《DeepSeek給AI Infra帶來的(de)啟示與機(ji)會》 為主題，由騰訊云(yun)專(zhuan)有云(yun)及(ji)智(zhi)(zhi)(zhi)算(suan)首席(xi)架(jia)構師(shi)方(fang)天戟主持(chi)，回顧了過去兩個月AI從業者們圍繞DeepSeek、具身智(zhi)(zhi)(zhi)能等展開的(de)一系列技術攻(gong)關，北京智(zhi)(zhi)(zhi)源人工(gong)智(zhi)(zhi)(zhi)能研(yan)(yan)究(jiu)院AI框架(jia)研(yan)(yan)究(jiu)負責人敖(ao)玉龍、澎峰科(ke)技創始人兼(jian)CEO張先軼、沐冰數據CTO邸澤民、云(yun)軸科(ke)技CTO王為分享了對(dui)最新產業趨(qu)勢(shi)的(de)觀(guan)察與思(si)考(kao)。
1、DeepSeek開源帶來震撼，一體機可滿足基礎需求
騰訊云專有云及智算(suan)首(shou)席架(jia)構師方天戟強調DeepSeek具有技(ji)術創新性(xing)，基于H800在(zai)卡間通信受限的情況下，大幅壓縮了大模型(xing)成本，使(shi)模型(xing)本地部(bu)署(shu)成為現實。
沐冰數據CTO邸澤民認為(wei)DeepSeek在開(kai)源(yuan)周中一系列開(kai)源(yuan)工作的最(zui)大的震撼在于展現了如(ru)何在資(zi)源(yuan)受限的約束下，實(shi)現最(zui)優解的工程能力(li)，充分挖掘(jue)了現有算力(li)的潛力(li)。DeepSeek團(tuan)隊不(bu)僅想到了精(jing)妙的優化技(ji)巧與方(fang)案，還完(wan)成了代(dai)碼與工程實(shi)現，并將(jiang)其完(wan)全開(kai)源(yuan)，十分令(ling)人尊敬(jing)。
▲騰訊云專有(you)云及智算首席架構師(shi)方天(tian)戟
談及近期銷售火爆的(de)DeepSeek一體機，方天戟(ji)認為(wei)這有助于企業(ye)在保護數據安全(quan)的(de)情況下快速(su)用上DeepSeek，北京(jing)智源人工智能研(yan)究院AI框架研(yan)究負責人敖(ao)玉龍指出用戶需(xu)要(yao)關注DeepSeek一體機部署后的(de)軟硬件更新問(wen)題。
云(yun)軸科技(ji)CTO王為提到DeepSeek一(yi)體機為客戶提供(gong)了入門的解決方(fang)案，通(tong)過(guo)預裝模型和應用(yong)降低了部署門檻(jian)，能(neng)夠快(kuai)速滿足基(ji)礎(chu)需(xu)求。但隨(sui)著需(xu)求增長，客戶可能(neng)需(xu)要更復雜(za)的算力調度和混合部署方(fang)案。
2、國產芯片軟硬件可用性提升，如何繞開CUDA護城河？
敖玉龍記得在2017年(nian)(nian)-2018年(nian)(nian)，他嘗試(shi)將大規模(mo)并行技術運用到AI計算(suan)中(zhong)，但當時相關技術尚未完善。過去幾年(nian)(nian)AI Infra快速(su)發展，有力地支持了大模(mo)型的技術進步。
在智源研究院的(de)工作(zuo)過(guo)程中，他接觸到了端側(ce)與服(fu)務器側(ce)的(de)大(da)量國產芯片(pian)。目前，國產芯片(pian)的(de)硬件(jian)、軟件(jian)都已(yi)具備一定(ding)可用(yong)性(xing)，主要挑戰在于生態(tai)還相對落后，為此智源打造了開源開放(fang)統一軟件(jian)生態(tai)FlagOS來推(tui)動國產芯片(pian)生態(tai)發展。
▲北京智源人(ren)工(gong)智能(neng)研究院AI框架研究負責人(ren)敖玉龍
在ChatGPT爆火之后，關于(yu)DSA特定領域芯(xin)(xin)片或ASIC專用(yong)芯(xin)(xin)片是(shi)否(fou)會消亡的討論不絕于(yu)耳。
邸(di)澤(ze)民認為，對(dui)于(yu)特(te)定領域的(de)(de)計(ji)算負載而言，與GPGPU相比，DSA具有(you)(you)性能，成(cheng)(cheng)本與能效(xiao)優勢。從目前(qian)趨勢來看，Transformer這(zhe)個模(mo)型架構(gou)的(de)(de)有(you)(you)效(xiao)性經過(guo)了(le)驗證，短期內出現(xian)顛(dian)覆性變化(hua)的(de)(de)概(gai)率不高，那么一(yi)定會(hui)有(you)(you)對(dui)Transformer架構(gou)計(ji)算特(te)點更有(you)(you)針對(dui)性設計(ji)的(de)(de)專用(yong)芯(xin)片出現(xian)，不論是采用(yong)TPU的(de)(de)脈動(dong)陣列(lie)、存算一(yi)體(ti)或者(zhe)別的(de)(de)什(shen)么技術(shu)路(lu)線，ASIC夠有(you)(you)效(xiao)降(jiang)低推(tui)理計(ji)算成(cheng)(cheng)本，只(zhi)有(you)(you)不斷降(jiang)低推(tui)理成(cheng)(cheng)本，才更能讓大模(mo)型的(de)(de)應用(yong)實現(xian)普(pu)惠。
▲沐冰數據CTO邸澤(ze)民
王為也提到一些優化(hua)技(ji)術在GPGPU上(shang)(shang)效(xiao)率(lv)不是特(te)別高，所以AI推(tui)(tui)理(li)(li)往ASIC上(shang)(shang)發展(zhan)的可(ke)能性(xing)非常大。國(guo)產算(suan)力(li)在推(tui)(tui)理(li)(li)上(shang)(shang)替(ti)代能力(li)很強，在訓練上(shang)(shang)還需要一定時間追趕(gan)，但(dan)應該不會太(tai)久。
王為認為，在AI訓(xun)練方面，英(ying)(ying)偉達(da)(da)目前優(you)勢比較突出(chu)，因(yin)為通信(xin)性能、通信(xin)庫等(deng)技術壁(bi)壘很(hen)高，但現在也有國(guo)產卡訓(xun)練較大大參數模型(xing)的(de)案例，因(yin)此假以時日還是可以趕(gan)上(shang)的(de)。英(ying)(ying)偉達(da)(da)如今在數據發布上(shang)選(xuan)擇性披(pi)(pi)露，著重在低精(jing)度上(shang)、稀疏算(suan)力上(shang)等(deng)，近年披(pi)(pi)露的(de)數據逐漸偏向商業宣(xuan)傳性質，詳細的(de)技術披(pi)(pi)露較少，這使得(de)評估(gu)其真實性能需要更多(duo)測試。
▲云軸科(ke)技(ji)CTO王為
邸澤民預測在AI訓練場(chang)景(jing)，GPGPU依(yi)舊將會(hui)繼續占(zhan)據主導地位。在他看來，國(guo)產(chan)算(suan)力(li)如果(guo)要通過對PyTorch、TensorFlow等框(kuang)架兼容，并覆蓋數千個(ge)長尾(wei)算(suan)子(zi)，以實現與英偉達(da)的(de)(de)(de)CUDA護城河(he)的(de)(de)(de)競爭甚(shen)至替(ti)換(huan)(huan)，在短(duan)期內(nei)是不現實的(de)(de)(de)。但如果(guo)將這種兼容與替(ti)換(huan)(huan)目標進(jin)一步收斂、聚焦到特(te)定(ding)的(de)(de)(de)模型(xing)或者(zhe)特(te)定(ding)領域(yu)的(de)(de)(de)模型(xing)訓練，比如DeepSeek這樣的(de)(de)(de)語(yu)言(yan)模型(xing)，國(guo)產(chan)廠商是有適配(pei)(pei)能力(li)與突破空間的(de)(de)(de)。除了(le)框(kuang)架與算(suan)子(zi)適配(pei)(pei)外，另一個(ge)難(nan)點在于進(jin)一步提升(sheng)通信庫的(de)(de)(de)效率。
3、混合推理系統是必然趨勢，具身智能將催化AI Infra演進
澎峰(feng)科(ke)技創始人兼CEO張先軼(yi)談(tan)道，英偉(wei)達在(zai)硬件創新(xin)上的(de)持續投入，使其在(zai)AI領域保持領先；英偉(wei)達在(zai)精(jing)度上的(de)創新(xin)不(bu)斷提升了性(xing)能峰(feng)值，也為其他(ta)芯片公司(si)設立了競爭(zheng)壁壘。
▲澎峰科(ke)技創始人兼CEO張先軼(yi)
在混合云部(bu)署的(de)實(shi)踐方面，張先軼認(ren)為當前(qian)對數字隱(yin)私要(yao)求不是特別高的(de)客戶比較容(rong)易(yi)接(jie)受(shou)，可以利(li)用智(zhi)算中心的(de)算力進行補充，比如(ru)一些學校(xiao)或(huo)中小B端(duan)。大(da)B端(duan)通常對私有化(hua)要(yao)求會(hui)更高。當前(qian)做AI機器人的(de)企業，基本采用的(de)是邊(bian)緣與云端(duan)結合的(de)方式。
方天戟預測，從長遠來看，相比大語言模型，具身智能(neng)(neng)可(ke)能(neng)(neng)會成為進(jin)一(yi)步(bu)促進(jin)未(wei)來AI Infra演進(jin)的(de)新(xin)應(ying)用領域。
敖玉龍提(ti)到(dao)具身智能機器人(ren)對端云(yun)協同、通(tong)信等方面提(ti)出了新要(yao)求，目前機器人(ren)的大腦(nao)模型(xing)往往部(bu)署(shu)(shu)在云(yun)端，控制運動的小腦(nao)模型(xing)部(bu)署(shu)(shu)在機器人(ren)本體，如何實現低(di)延遲的協同需要(yao)進(jin)一步(bu)探索。
結語：中國生成式AI浪潮波濤洶涌
中國(guo)生(sheng)成(cheng)式AI的每一次突破，從來不是某家企業的獨角戲，而是產學研(yan)用協(xie)同攻(gong)堅的交響(xiang)曲。
開(kai)年DeepSeek的(de)爆火，成為中國(guo)乃至世界生成式AI產業的(de)關鍵拐點。它(ta)顛覆了“堆砌算力”的(de)固(gu)有路(lu)徑，開(kai)辟出(chu)一條“效率優先”的(de)創新路(lu)徑，催化開(kai)源(yuan)、推理模型與AI Infra研發(fa)熱潮，更為端側AI與國(guo)產AI算力基礎設施的(de)落地應(ying)用注入了新動能。
站在技術(shu)與產業共振的歷史(shi)節點(dian)，我們每(mei)一(yi)個(ge)人(ren)，都正在見證和參與一(yi)場激(ji)動人(ren)心的技術(shu)躍遷。
春天來(lai)了(le)，生成(cheng)式AI的浪潮更加波濤洶涌，未來(lai)正呼嘯而(er)至(zhi)。
下一站，也許(xu)是(shi)基礎模(mo)型的飛躍(yue)式進化，也許(xu)是(shi)AI超級應用橫空(kong)出(chu)世(shi)，也許(xu)是(shi)人形機器人的覺醒(xing)，也許(xu)是(shi)商業(ye)價值(zhi)的裂(lie)變，也許(xu)是(shi)AGI新路(lu)徑的曙光。
生成式AI正以摧枯拉朽之勢重塑傳(chuan)統產業(ye)(ye)，創新(xin)火種從未如此(ci)燎(liao)原，我們無比期待看到，中國科技企業(ye)(ye)在時代的浪尖揚帆(fan)起航。
