此前市場有(you)消息(xi)稱華為大模型“盤古 Chat”已(yi)申請相關商標,將于 7 月 7 日發(fa)布,而(er)華為官方(fang)表示不會(hui)有(you)“盤古 Chat”此類命名。
華為輪值董事長胡厚崑出席參加了今日 2023 世界人工智能大(da)會開(kai)(kai)幕式并發了表(biao)演講。他 表(biao)示:華為(wei)將在 7 月(yue) 7 日(ri)的(de)華為(wei)云開(kai)(kai)發者大(da)會上推(tui)出(chu)盤古大(da)模(mo)型(xing) 3.0。
據介紹,從通用大(da)模(mo)型(xing)(xing)(xing)走向(xiang)行業大(da)模(mo)型(xing)(xing)(xing)。基礎大(da)模(mo)型(xing)(xing)(xing),行業大(da)模(mo)型(xing)(xing)(xing),場景模(mo)型(xing)(xing)(xing)。盤古大(da)模(mo)型(xing)(xing)(xing)已(yi)經深耕行業 10+,業務場景 400+。
他表(biao)示,去年年底 ChatGPT 的出現,把人工智能(neng)(neng)推向了新(xin)的風口。人工智能(neng)(neng)將幫助(zhu)我們改寫(xie)身(shen)邊的一切(qie)。
他介紹了(le)華(hua)為在(zai)人工智能方面的布局,在(zai)深耕算力方面實現了(le)架(jia)構(gou)創新、發展生(sheng)態(tai)、共建算力;在(zai)架(jia)構(gou)創新上重新定義(yi)計(ji)算架(jia)構(gou),對(dui)等平構(gou)架(jia)構(gou)節點性能提升 30%,昇騰 AI 集群效率提升 10%。
此外,華為在發展(zhan)生態(tai)上(shang)還聯合 5700 + 鯤鵬 / 昇騰(teng)(teng)合作伙(huo)伴(ban),以及(ji)硬(ying)件合作伙(huo)伴(ban) 30+,實(shi)現了國(guo)內大模(mo)型(xing)近一半創新使能,包括場景化系(xi)列 AI 硬(ying)件 100+,孵化 / 適配(pei)大模(mo)型(xing) 30+,鯤鵬 / 昇騰(teng)(teng)開(kai)發者 380 萬 +。
在共建算(suan)力方(fang)面,他(ta)表示華(hua)為已經在構建城市算(suan)力基礎設施,幫助各地政府打造了(le) 25 個(ge)昇騰人工智(zhi)能計算(suan)中心。
公(gong)開資料(liao)獲悉,華為盤古系列基(ji)礎(chu)大(da)(da)模型于 2021 年(nian)正式對外(wai)發(fa)布(bu),包括 NLP(自然語言處理)、CV(機(ji)器視覺)和科學計算(suan)大(da)(da)模型;后續又發(fa)布(bu)了礦山、藥物分(fen)子、氣象、海(hai)浪等行(xing)業大(da)(da)模型。
據介紹,NLP 是首(shou)(shou)個(ge)千億(yi)參數中文(wen)預(yu)訓(xun)練(lian)大(da)(da)(da)模(mo)(mo)(mo)型,CV 大(da)(da)(da)模(mo)(mo)(mo)型則首(shou)(shou)次達到(dao) 30 億(yi)參數。盤古 CV 大(da)(da)(da)模(mo)(mo)(mo)型業界最大(da)(da)(da) CV 大(da)(da)(da)模(mo)(mo)(mo)型、首(shou)(shou)次實現兼(jian)顧判別(bie)與(yu)生成能力、在 ImageNet 上(shang)小樣(yang)本(ben)學習能力上(shang)的業界第一;盤古氣(qi)象(xiang)大(da)(da)(da)模(mo)(mo)(mo)型提(ti)供(gong)秒級天氣(qi)預(yu)報;紫東.太(tai)初是全球(qiu)首(shou)(shou)個(ge)圖(tu)、文(wen)、音三模(mo)(mo)(mo)態(tai)大(da)(da)(da)模(mo)(mo)(mo)型。
對于盤古大(da)模型(xing)定位(wei),華為內部團(tuan)隊確立了(le)三項最關鍵的核心設(she)計原則:一是(shi)模型(xing)要(yao)(yao)大(da),可(ke)以(yi)吸(xi)收海量數據;二是(shi)網絡結構(gou)要(yao)(yao)強,能夠真正(zheng)發(fa)揮(hui)出模型(xing)的性能;三是(shi)要(yao)(yao)具有(you)優秀的泛化能力(li),可(ke)以(yi)真正(zheng)落地到各行(xing)各業的工作場景。
華為(wei)云官(guan)網顯示,盤(pan)古大(da)模(mo)(mo)(mo)(mo)型(xing)由 NLP 大(da)模(mo)(mo)(mo)(mo)型(xing)、CV 大(da)模(mo)(mo)(mo)(mo)型(xing)、多模(mo)(mo)(mo)(mo)態大(da)模(mo)(mo)(mo)(mo)型(xing)、科學計(ji)算大(da)模(mo)(mo)(mo)(mo)型(xing)等(deng)多個大(da)模(mo)(mo)(mo)(mo)型(xing)構(gou)成,通過模(mo)(mo)(mo)(mo)型(xing)泛化(hua)(hua),解(jie)決(jue)傳(chuan)統 AI 作坊式開發(fa)模(mo)(mo)(mo)(mo)式下不能解(jie)決(jue)的 AI 規模(mo)(mo)(mo)(mo)化(hua)(hua)、產業化(hua)(hua)難題,可以支持多種自然語言處理(li)任務,包括文(wen)本生成、文(wen)本分類(lei)、問(wen)答系統等(deng)等(deng)。
華(hua)為表示,盤(pan)古(gu)(gu) NLP 大(da)模(mo)型(xing)由華(hua)為云(yun)、循環智能(neng)和(he)鵬城實(shi)驗室(shi)聯(lian)合開(kai)發,具(ju)備(bei)領先的語(yu)言理(li)解(jie)(jie)和(he)模(mo)型(xing)生成能(neng)力:在權威的中文語(yu)言理(li)解(jie)(jie)評(ping)測基準 CLUE 榜(bang)單中,盤(pan)古(gu)(gu) NLP 大(da)模(mo)型(xing)在總(zong)排行榜(bang)及分(fen)類、閱讀理(li)解(jie)(jie)單項(xiang)均排名第一,刷新三項(xiang)榜(bang)單世界歷史紀錄(lu);總(zong)排行榜(bang)得(de)分(fen) 83.046,多(duo)項(xiang)子任務得(de)分(fen)業界領先,向人(ren)類水(shui)平(85.61)邁進了一大(da)步。
具體(ti)來看,盤古(gu) NLP 大模型(xing)(xing)首次(ci)使用 Encoder-Decoder 架(jia)構,兼顧 NLP 大模型(xing)(xing)的理解能力和生成能力,保證了模型(xing)(xing)在(zai)不同系統(tong)中的嵌入靈活性。下游應用中,僅需少量樣本和可(ke)(ke)學習(xi)參數即可(ke)(ke)完(wan)成千億(yi)規模大模型(xing)(xing)的快速微調和下游適配,這(zhe)一模型(xing)(xing)在(zai)智(zhi)能輿論以及智(zhi)能營銷方面都有不錯的表(biao)現(xian)。