挑戰可能真的(de)來了(le)。平臺開始按不(bu)住AIGC了(le)。
最近兩天，先是(shi)真(zhen)的(de)孫燕姿(zi)發(fa)文(wen)“原諒(liang)”了AI孫燕姿(zi)，然(ran)后AI又(you)在美(mei)國鬧出一個大新聞。美(mei)國當地時間(jian)5月22日，有一幅“五(wu)角(jiao)大樓附近發(fa)生(sheng)爆炸”的(de)圖在社交網(wang)站(zhan)上傳(chuan)播。一時間(jian)全網(wang)震(zhen)動，甚至美(mei)股還為此小跌了一下。
圖：依照(zhao)(目前還不成型的)AI傳(chuan)播(bo)道德，這里只放一張被打過(guo)叉(cha)的原(yuan)圖。
事(shi)件經過(guo)一(yi)天時間的發(fa)酵(jiao)，現在我們知(zhi)道：圖(tu)片是(shi)AI合成的。假消息的源(yuan)頭之一(yi)是(shi)推(tui)特上一(yi)個叫作(zuo)“Bloomberg Feed”的賬號，原推(tui)的附文煞有(you)介(jie)事(shi)地說(shuo)：“華盛(sheng)頓特區(qu)五角大樓建(jian)筑附近(jin)發(fa)生巨大爆炸。——初步報道”。
這次的(de)假(jia)新(xin)聞風波，意味(wei)著(zhu)推特的(de)內(nei)(nei)容監管沒能兜住AI內(nei)(nei)容風險。而且這不是(shi)個案，隨著(zhu)AI內(nei)(nei)容生態的(de)萌發，平臺的(de)監管問題正逐一(yi)顯露出(chu)來。
推特的難題
“五(wu)角大樓附近發(fa)生爆炸”事件在爆發(fa)的幾小時內，就經歷了幾輪(lun)發(fa)酵。
根據各方考證(zheng)，假消息的(de)源頭(tou)不止一個，最早的(de)發(fa)布時(shi)間可(ke)以追(zhui)溯到(dao)當(dang)地時(shi)間早8點42分。最原始的(de)圖(tu)在上(shang)(shang)午10點多(duo)被(bei)一些(xie)藍標賬號撿起來，配上(shang)(shang)“五(wu)角大樓(lou)附近發(fa)生爆(bao)炸”之類的(de)文案再度(du)發(fa)布。其中(zhong)，前面那張(zhang)圖(tu)中(zhong)的(de)發(fa)布者@Bloomberg Feed看起來最為可(ke)信，因為名字中(zhong)含有Bloomberg(彭博社)，并且獲(huo)得了推特(te)的(de)藍標認(ren)證(zheng)。但其實該賬號和彭博社毫無關系(xi)。
消(xiao)息發(fa)出來(lai)之后，好幾(ji)條原推都被(bei)數百(bai)萬人看到，被(bei)其他(ta)的藍標(biao)(biao)認證用戶轉發(fa)，甚至(zhi)被(bei)印(yin)度和(he)俄羅斯(si)帶著(zhu)推特(te)“金標(biao)(biao)”的正規媒體(ti)賬號。
早上十點多(duo)，美國(guo)股(gu)市(shi)也發生(sheng)了小幅下跌(die)。很多(duo)分(fen)析人士認(ren)為，這(zhe)是該圖片引(yin)發的市(shi)場恐慌。
圖：當地時(shi)間5月22日(ri)的美(mei)國道瓊(qiong)斯工業平均指數(shu)行情。在10點(dian)之后發生了小幅下跌。
不過很快，網(wang)民掀起了(le)對該消(xiao)息真(zhen)實性的討論。首先，雖然很多(duo)最(zui)早發(fa)出來的推都說這是在五角(jiao)(jiao)大(da)樓(lou)附近(jin)，但是照(zhao)片上的樓(lou)并不是五角(jiao)(jiao)大(da)樓(lou)。另外，照(zhao)片里面路燈是歪的，并且柵(zha)欄(lan)與周(zhou)圍景物的遮擋關系也不很寫實。
圖：AI偽造圖的(de)細(xi)部。雖(sui)然(ran)像素不(bu)高，但還(huan)是(shi)看(kan)得(de)出物體之(zhi)間的(de)穿插、遮擋關系(xi)非常不(bu)自然(ran)。
到了10點40多，圖片引起了官方的(de)(de)注意(yi)。當(dang)地的(de)(de)消防機構首先辟謠(yao)說，當(dang)地沒有(you)爆炸發生(sheng)。之(zhi)后陸續又(you)有(you)別的(de)(de)組織出面(mian)辟謠(yao)，公眾才確(que)認這則(ze)消息為(wei)假(jia)消息，并且照片是AI生(sheng)成的(de)(de)。
塵埃落定之(zhi)后，一些網(wang)絡(luo)輿論的(de)(de)矛頭開始指向(xiang)推(tui)(tui)特的(de)(de)藍(lan)(lan)標政(zheng)策。在馬斯克(ke)收購推(tui)(tui)特之(zhi)后，改(gai)(gai)變了(le)藍(lan)(lan)標用(yong)戶(hu)的(de)(de)認證(zheng)(zheng)(zheng)方(fang)式(shi)。在此之(zhi)前，藍(lan)(lan)標是免費授予經過(guo)身(shen)份(fen)認證(zheng)(zheng)(zheng)的(de)(de)機構和(he)名(ming)人(ren)的(de)(de)。去(qu)年11月，馬斯克(ke)把藍(lan)(lan)標政(zheng)策改(gai)(gai)成了(le)“付(fu)費+認證(zheng)(zheng)(zheng)”的(de)(de)形式(shi)。但是，新的(de)(de)認證(zheng)(zheng)(zheng)方(fang)式(shi)十分(fen)的(de)(de)不透(tou)明(ming)，被解讀(du)為(wei)“拿錢買認證(zheng)(zheng)(zheng)”。本次“五角大樓爆炸”假新聞事件也進一步印證(zheng)(zheng)(zheng)了(le)，馬斯克(ke)掌管下(xia)的(de)(de)推(tui)(tui)特，認證(zheng)(zheng)(zheng)制度(du)存在重大缺陷。
不過，這(zhe)真的只是認證的問題(ti)嗎?
國內“AI內容監管第一槍”?
輿論對本次“五角大樓爆炸”假新聞事件的問題意識，盯住的是推特的“藍標認證”制度，因為“藍標”意味著賬號是由真實、負責任的人或組織運營的。這實際上的訴求在于“AI的使用者不能脫責”，這是目前針對AIGC(人工智能生成內容)監管的一種(zhong)典型策(ce)略。
同樣，像微信朋友圈、微博這種即時分享類型的平臺讓每個人都成了新聞資訊的發布者。那么，每個發布者為自己發布的信息負責，這一治理原則在這些平臺強化AI內容治理時也被延續了下來。
在“可追責”的(de)考慮(lv)之上，一些平臺(tai)開(kai)始(shi)考慮(lv)給AI內容加(jia)標(biao)識，以防止(zhi)觀者混淆AI生成的(de)內容與真(zhen)實(shi)內容。5月(yue)9日，抖音祭出了被稱為國(guo)內“AI內容監管第一槍”的(de)舉措(cuo)，要求創作者給AI視頻內容打上“AI生成”的(de)水印。
圖：抖音(yin)規(gui)定的(de)“AI生成”水印(yin)樣式。圖片截取自《抖音(yin)關于人(ren)工智能生成內容標識的(de)水印(yin)與元數(shu)據(ju)規(gui)范》
但眼(yan)下(xia)，隨(sui)著AI內容生態(tai)的(de)演化，我們可以得出(chu)一些新的(de)判斷：說抖音的(de)舉動是“AI內容監管(guan)第(di)一槍”，可能(neng)夸大了其行業意義(yi)。
AI水印政策與抖音自身的屬性有關。抖音的內容本質上是一個博眼球、爭流量的注意力生意，所以抖音理應更關注為了爭取流量而不顧道德原則的AI內容。把(ba)AI內(nei)容(rong)在明顯的位置標出，或許能減少類似推特這次事件，有人把(ba)AI虛構的圖(tu)當作(zuo)真實圖(tu)像(xiang)來傳播，造成(cheng)意料之外(wai)的麻煩。
類似地，抖音平臺要阻止用戶利用AI生成的劣質內容來沖流量。所(suo)以抖音禁(jin)止了單純讀文案(an)帶貨的虛擬人(ren)直(zhi)播(bo)。這些虛擬人(ren)主播(bo)可以永不(bu)停歇(xie)地一直(zhi)播(bo)，并且可以被(bei)低(di)成本(ben)復制，同時(shi)用(yong)多(duo)個賬(zhang)號播(bo)出，但是(shi)它在視覺、文案(an)、表達上都(dou)十分(fen)粗(cu)制濫造。這種內容對于抖音的問題在于，用(yong)大規(gui)模低(di)質量(liang)內容沖流量(liang)，沖淡平臺上的優(you)質內容。
抖音的一些AIGC治理舉措，其出發點還是抖音平臺自身的一些特征。抖音對AIGC的問題意識不一定是普適的。
監管重點的分化
在邏輯不(bu)同的(de)內容平臺(tai)，例如B站這(zhe)種(zhong)看重用戶創意的(de)平臺(tai)，AI內容治理又是另一個(ge)樣貌。
3月30日，B站(zhan)董事長陳睿在中國網絡視聽(ting)大會上放(fang)出豪言，說B站(zhan)是目前(qian)AIGC內容質量最高、最豐富的平臺。果然(ran)不(bu)久之后，“AI孫(sun)燕(yan)姿(zi)”就(jiu)在B站(zhan)火(huo)了(le)。
純從內容上說，“AI孫燕姿”是比較原始形態的AIUGC，即“AI輔助用戶生成內容”。它是AI內容的另一種樣態，甚至可能是未來AI內容的主流樣態。和抖音對“用AI虛構內容博眼球”的擔憂不同，AIUGC內容拼的依然是創意，這是UGC/PUGC生態的延續。只不過，正如“AI孫燕姿”所暴露(lu)出(chu)的(de)問題，AIUGC目前暴露(lu)出(chu)了知識產權保護方面的(de)重大缺(que)陷。
在“AI孫燕(yan)姿(zi)”這件事上，B站不曾站出來表達自己的(de)(de)監管(guan)立場。倒是(shi)(shi)孫燕(yan)姿(zi)本人被炸出來，對“AI孫燕(yan)姿(zi)”表達了一種“無奈地寬恕(shu)”態度。孫燕(yan)姿(zi)的(de)(de)原(yuan)話是(shi)(shi)：“我的(de)(de)粉絲們已(yi)正式改(gai)換門(men)庭，接受我就(jiu)是(shi)(shi)一名冷門(men)歌手的(de)(de)事實，而我的(de)(de)AI角色成(cheng)為了目前的(de)(de)頂流。我想說(shuo)的(de)(de)是(shi)(shi)，你跟(gen)一個每幾(ji)分鐘就(jiu)推出一張新(xin)專輯(ji)的(de)(de)人(虎嗅(xiu)注：指(zhi)AI孫燕(yan)姿(zi))還有什么好爭(zheng)的(de)(de)。”
雖然孫(sun)燕姿(zi)個人(ren)很慷慨大度，但(dan)(dan)是AIGC的知識產(chan)權(quan)爭議(yi)仍在(zai)。“AI孫(sun)燕姿(zi)”爆火之后，有人(ren)又提起了“數字水印”技術。簡單(dan)講，這(zhe)(zhe)種技術是在(zai)圖像、聲音、數據等(deng)載體上加標(biao)記，這(zhe)(zhe)些標(biao)記是人(ren)看不到、聽不出的，但(dan)(dan)可以用技術手(shou)段識別，并且在(zai)原始(shi)版權(quan)素材(cai)被改動(dong)之后，依然可以識別出其中的版權(quan)標(biao)記。這(zhe)(zhe)種技術頗受看好，但(dan)(dan)其規模性的落地尚需時日(ri)。
但總之，B站這類重創意的內容平臺，或許能在AIGC的某些元問題上壓過那些重流量的內容平臺。正如Pinterest——知名的創意分享平臺、“設計師之友”——的首席執行官Bill Ready近期在評論AIGC時多次強調：AI內容應該是人們生活的“調味品”(additive)而非“癮品”(addictive)。如(ru)果內(nei)容平臺(tai)的核心算法原本就(jiu)是讓用(yong)戶上(shang)癮(yin)，那么AIGC會在這種算法中(zhong)把人性(xing)的缺陷進一步放大。
Pinterest自身在推(tui)(tui)薦算法上(shang)，堅持探(tan)索(suo)如何推(tui)(tui)送具有創意、靈感(gan)、個性化價值的(de)內容。這(zhe)使得(de)Pinterest對低質量的(de)AIGC有一定的(de)抵抗力(li);同(tong)時富有新(xin)意的(de)AIUGC藝術作品(pin)開始在Pinterest上(shang)涌現。
圖(tu)：Pinterest上(shang)一(yi)位AI輔助創作者的(de)作品目(mu)錄。他(ta)把自己(ji)利用Midjourney生成出來的(de)近百個主題(如(ru)“科(ke)幻(huan)場景(jing)”“通靈旅(lv)程(cheng)”“政(zheng)治畫(hua)”“圣經風(feng)格”等(deng))分(fen)門別類，整理成庫。| 圖(tu)片來源：Pinterest @Vellectrum
所(suo)以(yi)在討論AIGC平臺(tai)監管(guan)的時(shi)候，也不能忽視(shi)AIGC反過來對平臺(tai)的改造，以(yi)及潛在的相互成就的機(ji)會(hui)。
在(zai)較短的時間(jian)尺度上，AI內(nei)(nei)容給平(ping)臺(tai)帶來(lai)一些監(jian)管(guan)上的挑(tiao)戰(zhan)，并且不同運(yun)營邏輯的內(nei)(nei)容平(ping)臺(tai)，其AI治理重點還有分化之勢。而(er)在(zai)遠(yuan)期，AI內(nei)(nei)容或(huo)許反過來(lai)決(jue)定平(ping)臺(tai)的發展前景。這個遠(yuan)期趨(qu)勢，或(huo)許才是內(nei)(nei)容平(ping)臺(tai)面臨的終極挑(tiao)戰(zhan)。
