“目前(qian)國內跟GPT-4真(zhen)正的(de)差(cha)(cha)距(ju)，我覺得主(zhu)要是(shi)在所謂的(de)超強‘涌(yong)現’能力上(shang)，但是(shi)這個(ge)差(cha)(cha)距(ju)不是(shi)算法(fa)上(shang)的(de)，也不是(shi)模型上(shang)的(de)差(cha)(cha)距(ju)，而是(shi)預訓練數據(ju)和(he)訓練方法(fa)的(de)差(cha)(cha)距(ju)，還(huan)是(shi)有(you)一些(xie)‘坑’沒有(you)踩(cai)完，但這個(ge)時(shi)間差(cha)(cha)也就不到半年(nian)的(de)時(shi)間。”5月31日，在三六(liu)零視覺大模型及AI硬件(jian)新品(pin)發布會后(hou)采(cai)訪中，周鴻祎對雷峰網如此說道。
“涌現”在人工智能領(ling)域中經常被(bei)提到。那么(me)什么(me)叫智能涌現?過去的(de)人工智能是，想讓(rang)機器學(xue)會(hui)(hui)什么(me)技(ji)能，就教(jiao)它什么(me)技(ji)能。教(jiao)過的(de)有可能會(hui)(hui)，沒教(jiao)過的(de)就不會(hui)(hui)。而(er)大模型讓(rang)AI學(xue)會(hui)(hui)了(le)“無師自通”，也就是“涌現”。
業(ye)(ye)界普(pu)遍認(ren)為500—600億(yi)參(can)數，是大(da)模(mo)型是否具備涌現(xian)AI能(neng)力(li)的(de)一個(ge)門檻。于是，千億(yi)參(can)數，目前已經(jing)成了大(da)模(mo)型的(de)“標配”，時(shi)下不少(shao)大(da)模(mo)型產(chan)品，都把自己(ji)叫做“千億(yi)模(mo)型”，但真正能(neng)為產(chan)業(ye)(ye)賦能(neng)提(ti)高(gao)生產(chan)力(li)的(de)模(mo)型少(shao)之又少(shao)。
那(nei)么周(zhou)鴻祎是怎(zen)么看待“涌現”能(neng)力?360智腦大模(mo)型和視覺大模(mo)型他們之(zhi)間的(de)關系是怎(zen)樣的(de)?360又是如(ru)何(he)利用大模(mo)型為產(chan)業賦能(neng)的(de)呢?在會后采訪中(zhong)周(zhou)鴻祎與雷峰網(wang)在內的(de)一(yi)眾(zhong)媒體進行(xing)了(le)深入的(de)探(tan)討。
談“涌現能力”：跟模型大小沒關系
周鴻祎認為，目前(qian)行(xing)業(ye)內(nei)也沒(mei)(mei)有(you)(you)(you)(you)統一的(de)說法，有(you)(you)(you)(you)人認為一千億參數才有(you)(you)(you)(you)涌現能力(li)，也有(you)(you)(you)(you)人認為300億就可以。這其實跟(gen)模型大小沒(mei)(mei)關(guan)(guan)系(xi)，跟(gen)預訓(xun)(xun)練(lian)的(de)數據和(he)訓(xun)(xun)練(lian)方法有(you)(you)(you)(you)很大的(de)關(guan)(guan)系(xi)。這就好(hao)比(bi)小孩兒頭腦不(bu)(bu)(bu)夠聰明，腦子容量(liang)不(bu)(bu)(bu)夠，肯定(ding)是(shi)學(xue)不(bu)(bu)(bu)出(chu)來。但是(shi)，腦子容量(liang)夠，還得跟(gen)你的(de)學(xue)習(xi)方法有(you)(you)(you)(you)很大關(guan)(guan)系(xi)。
在周鴻祎看來(lai)(lai)，國內目(mu)前(qian)這些廠(chang)商大家做的(de)(de)時(shi)間也就(jiu)不到(dao)半年，長的(de)(de)有(you)5個月(yue)，短的(de)(de)可能(neng)有(you)3、4個月(yue)。所(suo)以，這么短的(de)(de)時(shi)間內，能(neng)夠(gou)拿出來(lai)(lai)和GPT-3.5基(ji)本上有(you)一(yi)比(bi)的(de)(de)東西，已經是很(hen)大的(de)(de)一(yi)個進步(bu)了，如(ru)果(guo)要縮(suo)短兩者之間的(de)(de)差距，還是需要一(yi)些時(shi)間。
他認(ren)為，趕上(shang)(shang)這個(ge)差距的(de)(de)(de)時間(jian)可(ke)能是半年，在這個(ge)時間(jian)內(nei)基本上(shang)(shang)訓(xun)練中很多的(de)(de)(de)方法以及訓(xun)練模型，大(da)(da)家(jia)踩“坑”踩的(de)(de)(de)差不多了(le)。涌現(xian)能力很大(da)(da)程度(du)上(shang)(shang)跟預(yu)訓(xun)練的(de)(de)(de)知(zhi)識(shi)含量有(you)很大(da)(da)的(de)(de)(de)關系，因為現(xian)在中文數據(ju)(ju)普(pu)遍還是缺乏(fa)高質量的(de)(de)(de)知(zhi)識(shi)數據(ju)(ju)，必(bi)須大(da)(da)量的(de)(de)(de)補充英文語言的(de)(de)(de)高質量素材。舉個(ge)例子，如果一個(ge)小(xiao)孩兒從(cong)小(xiao)看的(de)(de)(de)都是類似(si)故事會的(de)(de)(de)文章，沒有(you)邏(luo)輯(ji)推理(li)性，他涌現(xian)復雜的(de)(de)(de)邏(luo)輯(ji)推理(li)能力的(de)(de)(de)概(gai)率(lv)就非常低。
談視覺大模型與智腦：從感知到認知
如果給出(chu)一(yi)張(zhang)全身肌肉的(de)(de)蒙娜(na)麗(li)(li)莎(sha)像，問他(ta)有什么怪(guai)異的(de)(de)地方?傳統的(de)(de)感(gan)知(zhi)層面的(de)(de)計算機視(shi)覺可能最多(duo)認出(chu)是一(yi)張(zhang)人像，不一(yi)定(ding)能認出(chu)是蒙娜(na)麗(li)(li)莎(sha)，即便認出(chu)蒙娜(na)麗(li)(li)莎(sha)，也感(gan)覺不到(dao)怎(zen)么一(yi)個(ge)女的(de)(de)蒙娜(na)麗(li)(li)莎(sha)長(chang)了一(yi)身男人的(de)(de)麒麟臂，而360的(de)(de)視(shi)覺大模型就可以解讀出(chu)意思，這是從感(gan)知(zhi)到(dao)認知(zhi)的(de)(de)變化(hua)。
周鴻祎表示，視覺(jue)大(da)模(mo)型(xing)和(he)語言(yan)大(da)模(mo)型(xing)是兩個(ge)不(bu)同的基(ji)(ji)礎，首(shou)先要(yao)有一個(ge)大(da)語言(yan)模(mo)型(xing)，大(da)語言(yan)模(mo)型(xing)能夠充分地理(li)解(jie)人類(lei)(lei)的知識，理(li)解(jie)人類(lei)(lei)的自然(ran)語言(yan)。在這個(ge)基(ji)(ji)礎之上，再(zai)給很多(duo)圖文，然(ran)后(hou)進行訓練，視覺(jue)大(da)模(mo)型(xing)做出來后(hou)反(fan)過來也(ye)可(ke)以加(jia)強大(da)語言(yan)模(mo)型(xing)的能力，例如對(dui)圖片進行問答，為下一步理(li)解(jie)視覺(jue)打好(hao)基(ji)(ji)礎。
他認為，視(shi)覺(jue)大(da)模(mo)型是(shi)(shi)(shi)個(ge)垂類大(da)模(mo)型，過去(qu)要訓練一(yi)張照片(pian)是(shi)(shi)(shi)貓(mao)是(shi)(shi)(shi)狗，首先要做很多(duo)人工標(biao)注，而且就(jiu)算識別了是(shi)(shi)(shi)貓(mao)是(shi)(shi)(shi)狗，也是(shi)(shi)(shi)根據你標(biao)注的(de)圖像(xiang)匹配出來的(de)，它沒(mei)有理解是(shi)(shi)(shi)怎么回事(shi)，它也不知道狗是(shi)(shi)(shi)什么意(yi)思，貓(mao)是(shi)(shi)(shi)什么意(yi)思。所以(yi)(yi)，現(xian)在在大(da)語言模(mo)型的(de)基礎之上，它對自然語言能(neng)夠理解，在識別圖片(pian)過程(cheng)中對這(zhe)(zhe)個(ge)圖片(pian)不僅做了物體的(de)識別，還可(ke)以(yi)(yi)做很多(duo)語義的(de)解讀。比如小孩兒站在一(yi)個(ge)很高的(de)柜(ju)子(zi)上，或(huo)者老人躺在地板上，就(jiu)可(ke)以(yi)(yi)識別出來不合(he)理并進行預警，這(zhe)(zhe)就(jiu)是(shi)(shi)(shi)多(duo)模(mo)態的(de)能(neng)力。
談及選擇AI跟硬(ying)件結合去做落(luo)地的(de)原因，周鴻祎表示：“原來(lai)的(de)AIoT只是(shi)垂直AI，不(bu)是(shi)通用(yong)AI，經過大(da)模型(xing)賦能(neng)的(de)AIoT才(cai)是(shi)‘真(zhen)AI’。”
過去的(de)(de)人(ren)工(gong)智(zhi)能(neng)(neng)是弱人(ren)工(gong)智(zhi)能(neng)(neng)，在此基礎上(shang)打造的(de)(de)智(zhi)能(neng)(neng)硬件不具有(you)真(zhen)正的(de)(de)智(zhi)能(neng)(neng)。大模(mo)型出現后(hou)，計算機第(di)一次真(zhen)正的(de)(de)理(li)解這個世(shi)界，并能(neng)(neng)夠賦予AIoT真(zhen)正的(de)(de)智(zhi)能(neng)(neng)。他表(biao)示，大模(mo)型的(de)(de)出現標(biao)志著通用人(ren)工(gong)智(zhi)能(neng)(neng)到來，AI完(wan)成了從(cong)感知層(ceng)到認知層(ceng)的(de)(de)進(jin)化，不僅對傳(chuan)統人(ren)工(gong)智(zhi)能(neng)(neng)而言是一場顛覆(fu)性的(de)(de)革命，還能(neng)(neng)夠推(tui)動自動駕駛、蛋白質計算、機器人(ren)控(kong)制等領(ling)域的(de)(de)發展。
“大模型將帶來一場新工業革命”，周鴻祎認為，所有軟件、APP、網站，所有行業都值得用大模型進行重塑，而智能硬件是硬件化的APP。從大模型的發展趨勢來看，多模態是大模型發展的必經之路，GPT-4最重要的變化是擁有了多模態的處理能力。因此，周鴻祎預言，多模態大模型與物聯網的結(jie)合將會成為下一個風口。
談AI安全問題：不發展才是最大的不安全
隨(sui)著GPT等AI技術的(de)應用，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐騙、誹(fei)謗(bang)的(de)違法行為(wei)屢見不鮮。
周鴻(hong)祎認(ren)為AI的(de)(de)安(an)全(quan)問題(ti)必須重視，他(ta)說(shuo)360現在也成(cheng)(cheng)立了內(nei)部專門的(de)(de)AI安(an)全(quan)團(tuan)隊，科技部也給了360一個(ge)AI安(an)全(quan)的(de)(de)科技平臺，360承擔著解決AI的(de)(de)安(an)全(quan)問題(ti)的(de)(de)使命，但是(shi)(shi)這個(ge)問題(ti)比(bi)一般的(de)(de)問題(ti)要復雜(za)。一方面，AI把對普通人使用的(de)(de)要求降到最低，AI很容易被利用做壞事，所(suo)以如果要對抗，就要加大犯罪和反擊方面的(de)(de)成(cheng)(cheng)本，例如在AI作(zuo)品里加入指紋等。另(ling)一方面，周鴻(hong)祎表示AI的(de)(de)安(an)全(quan)問題(ti)不僅(jin)僅(jin)是(shi)(shi)這些，未(wei)來(lai)除了傳統的(de)(de)網絡(luo)安(an)全(quan)之外，還(huan)要警惕數據安(an)全(quan)和人工(gong)智能安(an)全(quan)。因為可能未(wei)來(lai)AI會(hui)形成(cheng)(cheng)超強的(de)(de)AI能力，會(hui)產生意識和自我認(ren)知(zhi)。
那360為什么必須要做(zuo)大模(mo)型(xing)呢?周鴻祎談到(dao)兩(liang)點：第一，不發展是最大的(de)(de)不安(an)全，因(yin)為AI是一場工業(ye)革命，我們(men)不能(neng)(neng)因(yin)為它(ta)有一些(xie)安(an)全的(de)(de)問題就因(yin)噎廢(fei)食(shi);第二，去做(zuo)大模(mo)型(xing)的(de)(de)過(guo)程就是在(zai)了解它(ta)的(de)(de)原理和整個完(wan)整的(de)(de)過(guo)程，而不是把它(ta)當(dang)作黑盒(he)子，這樣才能(neng)(neng)在(zai)過(guo)程中(zhong)提(ti)出(chu)更好的(de)(de)安(an)全方案。
談及360布局大模型的整體思路和扮演的角色，周鴻祎表示360就做好兩件事：
第一，數(shu)字化(hua)的(de)安(an)全(quan)底座，360安(an)全(quan)有比較(jiao)成(cheng)熟(shu)的(de)方案(an)，未來不光解決網絡安(an)全(quan)，還要(yao)解決數(shu)據(ju)安(an)全(quan)和(he)人工(gong)智能安(an)全(quan)。
第二，數(shu)(shu)字化(hua)時代(dai)，大模型是數(shu)(shu)字化(hua)的頂(ding)峰，是從(cong)數(shu)(shu)字化(hua)到智能(neng)化(hua)，因(yin)此這個時代(dai)誰沒(mei)有(you)(you)掌握大模型這一(yi)核心(xin)技術，沒(mei)有(you)(you)大模型實際場景(jing)的使用，誰就會被行業淘汰掉(diao)，這就是工業革命，就像有(you)(you)了(le)電(dian)、蒸汽(qi)機(ji)、電(dian)腦，基本上所(suo)(suo)有(you)(you)的業務都要重塑一(yi)遍。所(suo)(suo)以我們(men)作為一(yi)家(jia)互聯網公司，有(you)(you)很(hen)多數(shu)(shu)字化(hua)的技術積累，所(suo)(suo)有(you)(you)的大數(shu)(shu)據最后(hou)都要用到大模型里。
談大模型與場景：沒有場景的大模型是沒有生命力的
周鴻祎認為首先要(yao)把大(da)模(mo)型的核心(xin)技術牢(lao)牢(lao)抓在(zai)自己(ji)手(shou)里(li)，不(bu)僅(jin)要(yao)自己(ji)打造，也會跟伙伴合作(zuo);其次是要(yao)抓好場景(jing)，人工智能不(bu)是閉門(men)造車，只有(you)和用戶、場景(jing)結合才行，沒有(you)場景(jing)的大(da)模(mo)型是沒有(you)生命力的。
他(ta)表示，360大(da)(da)(da)模(mo)型(xing)(xing)應用(yong)場景已經(jing)很明(ming)確了，主(zhu)要(yao)分為四(si)路：一是(shi)(shi)(shi)，ToC消費(fei)者(zhe)場景，主(zhu)要(yao)是(shi)(shi)(shi)瀏覽器、桌面(mian)和搜索、手機瀏覽器等(deng)存(cun)量場景，圍繞著360智(zhi)腦的核心能(neng)力打造(zao)每個人的個人助理，在這方面(mian)360得目(mu)標是(shi)(shi)(shi)保證在前(qian)三名(ming)左(zuo)右;二是(shi)(shi)(shi)，打造(zao)了一個SaaS商店，未來(lai)將升級成AI商店，面(mian)向生態伙(huo)伴(ban)開放大(da)(da)(da)模(mo)型(xing)(xing)的API，提供給中小企(qi)業(ye)SaaS化(hua)服務;三是(shi)(shi)(shi)，打造(zao)企(qi)業(ye)、政(zheng)府和城市的專有(you)(you)GPT，未來(lai)不會只有(you)(you)一個大(da)(da)(da)模(mo)型(xing)(xing)，公有(you)(you)大(da)(da)(da)模(mo)型(xing)(xing)存(cun)在數據安(an)全問題，專有(you)(you)或私有(you)(you)大(da)(da)(da)模(mo)型(xing)(xing)更符合用(yong)戶場景;四(si)是(shi)(shi)(shi)，攜(xie)手行(xing)業(ye)伙(huo)伴(ban)，打造(zao)行(xing)業(ye)的垂直(zhi)GPT，例(li)如企(qi)業(ye)咨詢(xun)行(xing)業(ye)的GPT、還有(you)(you)可(ke)以賦能(neng)IOT行(xing)業(ye)等(deng)。
談及(ji)大模(mo)型(xing)未(wei)來的發展，周(zhou)鴻(hong)祎表示(shi)大模(mo)型(xing)未(wei)來一定是在(zai)小型(xing)化、輕量化、快(kuai)速化，包括(kuo)訓練都(dou)在(zai)追求自動(dong)化。
“大模型(xing)這個(ge)(ge)市場(chang)很大，如果(guo)大家都說我要干掉你，你要干掉我，為了爭(zheng)奪誰(shui)是中國的(de)ChatGPT，那市場(chang)就(jiu)很窄，如果(guo)把大模型(xing)用到垂直領域、行(xing)業領域、企(qi)業領域，其(qi)實(shi)對大模型(xing)的(de)能力的(de)要求反而是降低(di)了。”周鴻祎提出，例(li)如在(zai)法律、醫學、教育訓(xun)練一個(ge)(ge)專門的(de)GPT，這就(jiu)比訓(xun)練一個(ge)(ge)通用大模型(xing)要求降低(di)很多。
周鴻祎最后表(biao)示：“GPT剛出來大家(jia)被(bei)震撼了一下(xia)(xia)，仔細冷(leng)靜下(xia)(xia)來思考，它要真正能夠變成(cheng)生產力工(gong)具，能為(wei)我們所用(yong)，還(huan)是(shi)要走垂直化的路。”
