NLP大模型缺席，不趕“熱點”只談應用的華為，功夫(fu)在(zai)“山(shan)外”。
在沉寂兩年后，華為云官網近期上線了盤古系列AI大模型的最新消息，同時，華為云人工智能領域首席科(ke)學家田奇(qi)于今日(ri)在人(ren)工智能大模型技術高峰論壇(tan)上介(jie)紹了(le)盤古(gu)系列大模型的進展(zhan)及其應(ying)用，一時拉高了(le)人(ren)們(men)對這次演講的期待值。
恰是阿里云“通(tong)義(yi)千問”大(da)模型公(gong)布的(de)(de)第二天(tian)，一(yi)時間業界也(ye)有“華為加(jia)入(ru)大(da)模型之爭”的(de)(de)猜(cai)測。有了(le)期待值和預期，田奇(qi)今(jin)日的(de)(de)演講是否滿(man)足了(le)觀(guan)眾的(de)(de)好奇(qi)心呢(ni)?我們接下來會在文章中回顧(gu)華為盤古大(da)模型的(de)(de)前世今(jin)生，以及華為在將(jiang)盤古大(da)模型推(tui)向公(gong)眾視野的(de)(de)演講中透露了(le)哪些進展。
NLP大模型缺席，何時揭開面紗成謎
盤(pan)古大(da)(da)模(mo)型(xing)(xing)的(de)(de)(de)(de)歷史至今(jin)也才三年(nian)(nian)時(shi)間。2020年(nian)(nian)11月，盤(pan)古大(da)(da)模(mo)型(xing)(xing)在(zai)華(hua)為云內部立項(xiang)成功，該(gai)模(mo)型(xing)(xing)也完成了(le)與合作(zuo)伙(huo)伴(ban)、高校的(de)(de)(de)(de)合作(zuo)搭建。在(zai)開始打(da)造盤(pan)古大(da)(da)模(mo)型(xing)(xing)的(de)(de)(de)(de)時(shi)候，華(hua)為內部團隊確立了(le)三項(xiang)最關鍵的(de)(de)(de)(de)核(he)心設計(ji)原則：一是模(mo)型(xing)(xing)要大(da)(da)，可以(yi)吸收海量數據;二是網絡結構要強，能夠(gou)真正發(fa)揮出模(mo)型(xing)(xing)的(de)(de)(de)(de)性能;三是要具有(you)優秀的(de)(de)(de)(de)泛化能力，可以(yi)真正落地(di)到各行各業(ye)的(de)(de)(de)(de)工作(zuo)場(chang)景(jing)。2021年(nian)(nian)4月，盤(pan)古大(da)(da)模(mo)型(xing)(xing)正式對(dui)外發(fa)布。
華為(wei)云官網更(geng)新的(de)最新消息(xi)顯示，華為(wei)即(ji)將上線(xian)的(de)“盤(pan)古系列(lie)AI大(da)(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)”分別為(wei)NLP 大(da)(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)、CV大(da)(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)、科學計算(suan)大(da)(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)(氣(qi)(qi)象大(da)(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing))。國盛證券近期發布的(de)研(yan)報中表(biao)示，盤(pan)古 NLP 大(da)(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)是(shi)業界首個千億(yi)參(can)數的(de)中文預(yu)訓練大(da)(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing);盤(pan)古CV大(da)(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)是(shi)業界最大(da)(da)(da) CV 大(da)(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)、首次實現兼顧判別與生(sheng)成能力(li)、在 ImageNet 上小樣本學習(xi)能力(li)上處于業界第一(yi);盤(pan)古氣(qi)(qi)象大(da)(da)(da)模(mo)(mo)(mo)型(xing)(xing)(xing)則可提供秒級天氣(qi)(qi)預(yu)報，可應(ying)用于氣(qi)(qi)象、生(sheng)物醫(yi)藥等領(ling)域。
但(dan)在會上，田奇(qi)對(dui)于NLP大(da)模(mo)型僅(jin)用一句話帶過其應用進展，他表(biao)示(shi)盤(pan)古(gu)NLP大(da)模(mo)型目前覆蓋的(de)智(zhi)能(neng)文(wen)檔檢索、智(zhi)能(neng) ERP、小語種大(da)模(mo)型等落(luo)地領(ling)域(yu)，2022年華為(wei)剛交付(fu)了一個阿拉伯語的(de)千億參數大(da)模(mo)型。半小時的(de)演講聽(ting)下來像做了一套盤(pan)古(gu)大(da)模(mo)型的(de)面試介(jie)紹或(huo)者(zhe)入(ru)職第一個月的(de)職業規劃，讓人感覺“能(neng)摸到頭腦，但(dan)是不多”。有(you)(you)網(wang)友(you)對(dui)沒有(you)(you)盤(pan)古(gu)大(da)模(mo)型的(de)演示(shi)表(biao)達(da)了強烈的(de)不滿，但(dan)既然演講中NLP大(da)模(mo)型并非主角，那行業大(da)模(mo)型當(dang)場演示(shi)確實(shi)有(you)(you)些強人所難(nan)。也有(you)(you)網(wang)友(you)吐槽(cao)“都是些之前老(lao)的(de)to B的(de)東西重新拿出來簡單介(jie)紹了一下”。
作為盤古系列大模(mo)(mo)(mo)(mo)型(xing)中(zhong)(zhong)最受關注的(de)大模(mo)(mo)(mo)(mo)型(xing)，與ChatGPT等(deng)外國(guo)同(tong)類(lei)AI模(mo)(mo)(mo)(mo)型(xing)相比，盤古NLP大模(mo)(mo)(mo)(mo)型(xing)更注重針對中(zhong)(zhong)文語言的(de)優(you)化，該模(mo)(mo)(mo)(mo)型(xing)采用(yong)了(le)深度學習和自然語言處(chu)理技術，并使用(yong)了(le)大量的(de)中(zhong)(zhong)文語料庫進行訓練。在應用(yong)方面，盤古大模(mo)(mo)(mo)(mo)型(xing)可以應用(yong)于智能客服、機(ji)器翻(fan)譯、語音(yin)識別等(deng)多(duo)個領(ling)域，提(ti)供AI技術支持。
從參(can)數與(yu)數據堆量來看，百度大(da)模(mo)型(xing)的(de)(de)參(can)數為(wei)(wei)100億(yi)，而GPT-3達(da)到了1750億(yi)，GPT-4尚(shang)不明確(que)。根據前段時間華為(wei)(wei)發(fa)(fa)表(biao)的(de)(de)論文數據判斷，華為(wei)(wei)PanGu-Σ大(da)模(mo)型(xing)參(can)數最多為(wei)(wei)1.085萬億(yi)，基于(yu)華為(wei)(wei)自(zi)研的(de)(de)MindSpore框架開發(fa)(fa)。PanGu-Σ大(da)模(mo)型(xing)在對話方面，回答更貼(tie)近主題，也(ye)更準確(que)。在參(can)數角度，盤古(gu)大(da)模(mo)型(xing)可能已(yi)經接近 GPT-3.5 的(de)(de)水平。
圖源：《PANGU-Σ: TOWARDS TRILLION PARAMETER LANGUAGE MODEL WITH SPARSE HETEROGENEOUS COMPUTING》
與其他廠(chang)商相比(bi)，華為的優勢或在于(yu)擁(yong)有完整的產業鏈和較(jiao)強(qiang)的算(suan)力(li)調(diao)配(pei)能力(li)。據介紹，在訓(xun)練千億參(can)數的盤古(gu)大模型(xing)時，華為團隊(dui)調(diao)用(yong)了超過2000塊的昇騰910，進行(xing)了超過2個(ge)月(yue)的訓(xun)練。
圖源(yuan)：《華為AI盤古大模型研究框架(jia)》，浙(zhe)商證券
瞄準行業賦能，華為大模型堅定“AI for Industries”
目前，全球(qiu)人工智能產業正處(chu)在AI工業化(hua)開發模(mo)式起步后的(de)快速發展階段(duan)，而(er)大模(mo)型是(shi)(shi)最(zui)有希望將(jiang)AI進行落地的(de)方(fang)向。大模(mo)型最(zui)重要的(de)優勢是(shi)(shi)推動AI進入大規(gui)模(mo)可復制的(de)產業落地階段(duan)，僅需(xu)零樣(yang)本(ben)(ben)、小樣(yang)本(ben)(ben)的(de)學習就可以(yi)(yi)達到很(hen)好的(de)效果，以(yi)(yi)此大大降低AI開發成本(ben)(ben)。
華為從2020年就(jiu)關注到了人工智(zhi)能技(ji)術的兩(liang)大落地(di)趨勢(shi)：
一、從小模型(xing)到大模型(xing)演進。過去十年(nian)內，AI算(suan)(suan)法的(de)(de)算(suan)(suan)力需求提升了40萬倍。大模型(xing)將成為(wei)(wei)應對 AI 應用碎片化的(de)(de)一種方式(shi)，因為(wei)(wei)存(cun)在(zai)較高的(de)(de)資金(jin)門檻和技術門檻，可(ke)能(neng)存(cun)在(zai)大公司收編高度定制化的(de)(de)小模型(xing)的(de)(de)現象，導致市(shi)場(chang)向(xiang)大公司集中，產業規則和格局也可(ke)能(neng)改變。
二、AI for science，AI與傳(chuan)統科學計算領域(yu)(yu)滲透融合，將會為包括傳(chuan)統的氣象、海(hai)洋、農業、地球科學、航(hang)空航(hang)天等領域(yu)(yu)貢(gong)獻從(cong)偏(pian)微分(fen)方(fang)程(cheng)的方(fang)法拓展到 AI 方(fang)法，在這(zhe)一領域(yu)(yu)華為云推出了氣象、藥物(wu)分(fen)子(zi)領域(yu)(yu)的多個行業大模型。
華為(wei)盤(pan)古大(da)模(mo)(mo)型基(ji)于底層(ceng)一站式 AI 開發平臺 ModelArts 建立了L0基(ji)礎大(da)模(mo)(mo)型、L1行(xing)業(ye)大(da)模(mo)(mo)型、L2場景模(mo)(mo)型多層(ceng)服(fu)務(wu)。具(ju)體而言，基(ji)礎通用(yong)模(mo)(mo)型L0與行(xing)業(ye)的海量數據混合訓練得到行(xing)業(ye)模(mo)(mo)型L1，將(jiang)L1部署到產業(ye)下游千行(xing)百業(ye)的細分領域中，得到細分場景模(mo)(mo)型L2。為(wei)了降(jiang)低(di)生產成本，提高(gao)效率，盡快為(wei)行(xing)業(ye)賦能，華為(wei)過去幾年主要在做盤(pan)古系(xi)列與訓練大(da)模(mo)(mo)型。
據田奇介紹，華(hua)為云(yun)過去(qu)幾年實踐的(de)人(ren)工智(zhi)能(neng)項(xiang)(xiang)目(mu)已(yi)經(jing)超過1000個，其中30%人(ren)工智(zhi)能(neng)項(xiang)(xiang)目(mu)已(yi)經(jing)進入了核心(xin)生產系統，幫(bang)助客戶將盈利(li)能(neng)力(li)平均提(ti)(ti)升(sheng)18%。他預(yu)測，人(ren)工智(zhi)能(neng)行業(ye)滲(shen)透率(lv)將再度提(ti)(ti)速，在(zai)2026年對企(qi)業(ye)的(de)滲(shen)透率(lv)將達到20%。
自華為(wei)2021年開始立項盤(pan)古大模(mo)型以來進展不斷——2021年4月發(fa)布了盤(pan)古NLP大模(mo)型、盤(pan)古視覺(jue)大模(mo)型、盤(pan)古科(ke)學計算大模(mo)型;2021年9月，推出用于藥物研(yan)發(fa)細分場景的(de)大模(mo)型;2022年，其(qi)與(yu)能源集團(tuan)合作發(fa)布了盤(pan)古礦(kuang)山大模(mo)型、盤(pan)古氣象大模(mo)型、盤(pan)古海浪(lang)大模(mo)型、盤(pan)古金融OCR大模(mo)型。
田奇表示，2022年(nian)，華(hua)為(wei)(wei)(wei)盤古(gu)大模(mo)型主要在(zai)做 AI for Industry(AI 賦能產業(ye)(ye)(ye))，例如視覺大模(mo)型已經在(zai)工業(ye)(ye)(ye)質檢、缺(que)陷檢測、電(dian)力巡檢等(deng)100多個場景(jing)得到驗證(zheng)。華(hua)為(wei)(wei)(wei)大模(mo)型產業(ye)(ye)(ye)化的(de)(de)初衷在(zai)于開辟更多B端業(ye)(ye)(ye)務場景(jing)，正(zheng)如田奇此前所說，“將工業(ye)(ye)(ye)化的(de)(de)一面放置在(zai)更高的(de)(de)優先(xian)級上”。華(hua)為(wei)(wei)(wei)希(xi)望通(tong)過盤古(gu)大模(mo)型為(wei)(wei)(wei)煤礦、水泥、電(dian)力、金融(rong)、農業(ye)(ye)(ye)等(deng)行業(ye)(ye)(ye)創造更多產業(ye)(ye)(ye)價值。
田奇還(huan)表示(shi)，大模型是連接(jie)技術生態和商業生態的橋梁，是未來(lai)AI生態的核心。華為云盤(pan)古大模型能(neng)夠推動人(ren)(ren)工(gong)智(zhi)能(neng)開發(fa)(fa)從(cong)“作坊式”到“工(gong)業化”升級。展望未來(lai)，AI for Industries是人(ren)(ren)工(gong)智(zhi)能(neng)新的爆發(fa)(fa)點。盤(pan)古大模型將解決傳統(tong)AI開發(fa)(fa)的難(nan)題(ti)，包(bao)括(kuo)作坊式開發(fa)(fa)、樣(yang)本標注、代價(jia)大、模型維護困難(nan)、模型泛化不足、行業人(ren)(ren)短缺(que)等難(nan)題(ti)等。
田奇(qi)著重介紹了(le)盤古大模型(xing)中CV大模型(xing)和的落(luo)地情況，具體如(ru)下：
CV大模型
在與能(neng)(neng)源公司合作(zuo)(zuo)的(de)盤(pan)古礦(kuang)山大模型(xing)中(zhong)(zhong)案(an)例(li)中(zhong)(zhong)，礦(kuang)井(jing)現場是(shi)一(yi)個(ge) 40 米(mi)長的(de)采掘機(ji)，寬(kuan)度僅 2 米(mi)左右(you)，傳統相機(ji)很難一(yi)下(xia)子捕(bu)捉(zhuo)到全部畫(hua)面(mian)，只能(neng)(neng)用圖(tu)中(zhong)(zhong)的(de)九宮格視頻畫(hua)面(mian)。通過 5G+AI 全景視頻拼接(jie)綜采畫(hua)面(mian)卷，傳輸到地(di)面(mian)，地(di)面(mian)工(gong)作(zuo)(zuo)人(ren)員將來(lai)可以實(shi)現地(di)面(mian)控制機(ji)器進行(xing)采礦(kuang)，實(shi)現礦(kuang)下(xia)無(wu)人(ren)少(shao)人(ren)安全作(zuo)(zuo)業。
盤古礦(kuang)山大模型(xing)還(huan)用在(zai)了煤(mei)(mei)礦(kuang)的主(zhu)運(yun)(yun)輸皮(pi)帶作業監控。煤(mei)(mei)礦(kuang)被(bei)采集下來以(yi)后(hou)，它會通(tong)過一個主(zhu)運(yun)(yun)輸皮(pi)帶，從(cong)地下傳輸到地上。按傳統方(fang)法是通(tong)過工(gong)人(ren)配合作業。華為(wei)提出通(tong)過視頻對作業的安(an)全(quan)規范進行巡檢，主(zhu)運(yun)(yun)場景的異(yi)物識(shi)別精度達(da) 98%，煤(mei)(mei)礦(kuang)作業場景動(dong)作識(shi)別準(zhun)確(que)率達(da) 95%，助(zhu)井下安(an)全(quan)事(shi)故減少 90% 以(yi)上;此(ci)外大模型(xing)還(huan)能進行軌道機車缺陷檢測，比如(ru)掉鏈(lian)、脫落、裂(lie)痕等(deng)潛在(zai)不安(an)全(quan)因素，人(ren)工(gong)檢測成本較高，盤古大模型(xing)提供圖像質量的自動(dong)評估、小(xiao)樣本的故障定(ding)位與識(shi)別等(deng)。
科學計算大模型
華為云盤古科(ke)學計算大模(mo)型加(jia)速了(le)人(ren)工智能(neng)在(zai)科(ke)學計算方(fang)(fang)面對(dui)(dui)于模(mo)型、算法(fa)、軟(ruan)件、硬件四個(ge)方(fang)(fang)面進(jin)行(xing)融合。該(gai)模(mo)型是全(quan)(quan)球首個(ge)精度(du)超(chao)過(guo)(guo)傳(chuan)(chuan)統預(yu)報方(fang)(fang)式的(de)AI模(mo)型，可以(yi)在(zai)秒級的(de)時(shi)間(jian)內(nei)完(wan)成全(quan)(quan)球未來全(quan)(quan)球一個(ge)小(xiao)時(shi)到七天的(de)全(quan)(quan)球天氣預(yu)報，其精度(du)首次超(chao)過(guo)(guo)了(le)歐洲氣象中(zhong)心的(de)數(shu)值分析方(fang)(fang)法(fa)，并且預(yu)測速度(du)相對(dui)(dui)于傳(chuan)(chuan)統的(de)數(shu)字(zi)分析方(fang)(fang)法(fa)提升(sheng)了(le)1萬(wan)倍以(yi)上(shang)。此外，華為云盤古藥物分子大模(mo)型縮短(duan)先導藥物研發周期從數(shu)年到1個(ge)月。
中國大模型競爭在所難免
關注股市(shi)的讀者(zhe)朋友今年基本(ben)(ben)都會對ChatGPT概念(nian)股傾注一(yi)些關注，而此(ci)類炒作中，我們(men)已經見證過不(bu)少速(su)(su)生速(su)(su)死(si)的案例。在關注此(ci)方面上市(shi)公司(si)近期動(dong)態時，我們(men)發現不(bu)少公司(si)發出了“AIGC、大模(mo)型、人工智能相關產(chan)品并(bing)未對公司(si)產(chan)生任(ren)何收入”的聲(sheng)音。將目(mu)光(guang)從資本(ben)(ben)市(shi)場(chang)轉移到實際(ji)應用上，AI真正在產(chan)業側(ce)掀(xian)起“ChatGPT式”的大變(bian)革似(si)乎還很(hen)遙遠。在C端市(shi)場(chang)的傳播度(du)與(yu)基本(ben)(ben)聲(sheng)量，是B端市(shi)場(chang)所不(bu)能及的;但B端市(shi)場(chang)能夠給予的資金(jin)底(di)座和長線收益，也(ye)是高速(su)(su)變(bian)動(dong)的C端市(shi)場(chang)可望不(bu)可及的。
任何一門技術突破(po)都需要以產業(ye)賦能(neng)為技術指引(yin)，對于(yu)大模型而言，如果在NLP方面(mian)喪(sang)失先機(ji)，處在追趕國(guo)外的境況(kuang)，不妨直接(jie)從產業(ye)側出發，依托中國(guo)本身具備的龐(pang)大業(ye)態尋求突圍機(ji)會。在此方面(mian)，正如田奇(qi)所言，大小模型協同(tong)進化(hua)將成為行(xing)業(ye)趨勢，共(gong)同(tong)推(tui)動端(duan)側化(hua)發展。
如果將(jiang)ChatGPT的成(cheng)功模(mo)式復用(yong)到B端，以輕量(liang)化服務(wu)降(jiang)低應用(yong)門(men)(men)檻(jian)一(yi)(yi)定是(shi)一(yi)(yi)條重要路徑。大模(mo)型(xing)具(ju)有良好的通(tong)(tong)用(yong)性(xing)(xing)、泛(fan)化性(xing)(xing)，能(neng)(neng)夠(gou)顯著降(jiang)低人工智能(neng)(neng)應用(yong)門(men)(men)檻(jian)。預(yu)訓練大模(mo)型(xing)在海量(liang)數據的學(xue)習(xi)訓練后具(ju)有良好的通(tong)(tong)用(yong)性(xing)(xing)和泛(fan)化性(xing)(xing)，用(yong)戶基于大模(mo)型(xing)通(tong)(tong)過(guo)零樣(yang)本(ben)、小樣(yang)本(ben)學(xue)習(xi)即可獲得領先的效(xiao)果，同時“預(yu)訓練+精調”等開(kai)發范式，能(neng)(neng)夠(gou)讓研發過(guo)程(cheng)更加標(biao)準化，這將(jiang)降(jiang)低人工智能(neng)(neng)的應用(yong)門(men)(men)檻(jian)，也(ye)將(jiang)是(shi)AI走向(xiang)工程(cheng)化應用(yong)落(luo)地的重要手段。
在(zai)過去在(zai)分散化(hua)的(de)(de)(de)模(mo)(mo)(mo)型(xing)研(yan)(yan)發模(mo)(mo)(mo)式下(xia)(xia)，單一的(de)(de)(de)AI應用場景下(xia)(xia)的(de)(de)(de)多個任務都(dou)需要(yao)由多個模(mo)(mo)(mo)型(xing)支撐完成，每一個模(mo)(mo)(mo)型(xing)建設都(dou)需要(yao)算法(fa)開發、數(shu)據處理、模(mo)(mo)(mo)型(xing)訓(xun)練與(yu)調優過程。預訓(xun)練大(da)模(mo)(mo)(mo)型(xing)增強(qiang)了(le)(le)人工智能的(de)(de)(de)通用性(xing)、泛(fan)化(hua)性(xing)，基(ji)于(yu)大(da)模(mo)(mo)(mo)型(xing)通過零樣本或小樣本精調,就可(ke)實現在(zai)多種任務上的(de)(de)(de)較好效果(guo)。大(da)模(mo)(mo)(mo)型(xing)“預訓(xun)練+精調”等模(mo)(mo)(mo)式帶來了(le)(le)新(xin)的(de)(de)(de)標準(zhun)化(hua)AI研(yan)(yan)發范式,實現AI模(mo)(mo)(mo)型(xing)在(zai)更統一、簡(jian)單的(de)(de)(de)方式下(xia)(xia)規模(mo)(mo)(mo)化(hua)生產。
隨(sui)后(hou)，大模(mo)(mo)型(xing)(xing)(xing)負責(ze)向小模(mo)(mo)型(xing)(xing)(xing)輸出模(mo)(mo)型(xing)(xing)(xing)能(neng)力，小模(mo)(mo)型(xing)(xing)(xing)更精確地處理(li)自(zi)己(ji)“擅長(chang)”的任務，再將應(ying)用中的數據與結(jie)果反哺給(gei)大模(mo)(mo)型(xing)(xing)(xing)，讓大模(mo)(mo)型(xing)(xing)(xing)持續迭代(dai)更新，形成(cheng)大小模(mo)(mo)型(xing)(xing)(xing)協(xie)同應(ying)用模(mo)(mo)式(shi)，達到降低能(neng)耗、提高整體模(mo)(mo)型(xing)(xing)(xing)精度的效(xiao)果。
據IDC預測，未來大模型將(jiang)帶動新(xin)的產(chan)業(ye)和服務應用(yong)范式，在深度學習(xi)平(ping)臺的支(zhi)撐下(xia)將(jiang)成為產(chan)業(ye)智(zhi)(zhi)能(neng)化(hua)基座(zuo)，企(qi)業(ye)需加快建設人工智(zhi)(zhi)能(neng)統(tong)一底座(zuo)，融合專家知(zhi)識圖(tu)譜，打造(zao)可面向跨場景或行業(ye)服務的 “元能(neng)力(li)引擎” 。
從近期的(de)行業亂戰來看，中國(guo)企業不擅長做“有(you)趣(qu)的(de)技術(shu)”，但(dan)執(zhi)著于行業首創(chuang)的(de)“模式”。追逐(zhu)浪潮(chao)在所難免，但(dan)相(xiang)較于大語言模型(xing)，我國(guo)大廠在幾年前(qian)就紛紛推出行業大模型(xing)，在此(ci)方面存在一定的(de)先(xian)行布局，此(ci)方面一定需要(yao)繼(ji)續加碼，但(dan)在大語言模型(xing)方面，中國(guo)需要(yao)幾個“輪子”目(mu)前(qian)還沒有(you)定論，這等耗(hao)(hao)時耗(hao)(hao)力的(de)活(huo)計(ji)，唯有(you)留(liu)給(gei)一線的(de)大廠來思考。
參考資(zi)料：
1.《華為盤古大模型(xing)新進展，華為云 AI 首席科學家 7000 字演(yan)講(jiang)精華》，智東西
2.《華為AI盤古大模型研究框(kuang)架》，浙商證(zheng)券
3.《2022中國(guo)大模型發(fa)展白皮書》，IDC
