挑戰可能真的來(lai)了。平臺開始按(an)不住AIGC了。
最近兩天，先是真的孫燕姿發文“原諒”了(le)AI孫燕姿，然后AI又在美(mei)國(guo)鬧出(chu)一個大新聞。美(mei)國(guo)當地時(shi)間(jian)5月22日，有一幅“五角(jiao)大樓附近發生爆炸”的圖在社交網站上傳播。一時(shi)間(jian)全(quan)網震動，甚(shen)至(zhi)美(mei)股(gu)還為此(ci)小跌了(le)一下。
圖：依照(zhao)(目(mu)前還不成型(xing)的)AI傳(chuan)播道德，這(zhe)里只放一(yi)張(zhang)被打過(guo)叉的原圖。
事件經過一(yi)天時間的發酵，現在我們知道：圖(tu)片是AI合成的。假消息的源頭之一(yi)是推特(te)上一(yi)個叫作“Bloomberg Feed”的賬號(hao)，原推的附文煞(sha)有介事地說：“華盛頓特(te)區五(wu)角(jiao)大樓建(jian)筑附近發生巨(ju)大爆炸。——初步報道”。
這次的(de)假新聞風波，意味(wei)著(zhu)推特的(de)內(nei)容監(jian)管沒能兜住(zhu)AI內(nei)容風險。而且這不是個(ge)案，隨著(zhu)AI內(nei)容生態的(de)萌發，平臺的(de)監(jian)管問題正逐一顯露出來。
推特的難題
“五角大樓附近發生爆炸(zha)”事件在爆發的幾小時內，就經歷(li)了(le)幾輪發酵。
根(gen)據各方考證，假消息的源(yuan)頭不止(zhi)一個，最(zui)早的發(fa)布(bu)時間可以追溯(su)到當地(di)時間早8點42分。最(zui)原(yuan)始的圖在上午(wu)10點多被(bei)一些藍標賬(zhang)(zhang)號撿起來(lai)，配上“五角大樓(lou)附近(jin)發(fa)生爆炸”之(zhi)類的文(wen)案再度發(fa)布(bu)。其(qi)中，前面那張圖中的發(fa)布(bu)者@Bloomberg Feed看起來(lai)最(zui)為(wei)可信，因為(wei)名(ming)字中含有(you)Bloomberg(彭博社)，并且獲得了推特(te)的藍標認證。但其(qi)實該賬(zhang)(zhang)號和彭博社毫無關系(xi)。
消息(xi)發(fa)出來(lai)之后(hou)，好幾條(tiao)原推(tui)都被數百萬人看到，被其他的藍標認(ren)證用戶轉發(fa)，甚至被印度和俄羅斯帶著推(tui)特(te)“金標”的正(zheng)規(gui)媒(mei)體賬號。
早上十點多，美國股市也(ye)發生了小(xiao)幅下(xia)跌。很(hen)多分(fen)析人士認為，這是該(gai)圖片引發的市場恐慌。
圖：當地時間5月22日的美國道瓊斯工業平均指數行情。在10點之后(hou)發(fa)生了小幅(fu)下跌。
不(bu)(bu)過很快，網(wang)民掀起了對該消息真實性的(de)(de)討論。首先，雖然很多最早發出來的(de)(de)推都說(shuo)這是(shi)在五角(jiao)大樓附近，但(dan)是(shi)照片上的(de)(de)樓并不(bu)(bu)是(shi)五角(jiao)大樓。另外，照片里面路燈是(shi)歪(wai)的(de)(de)，并且柵欄與周圍景物(wu)的(de)(de)遮(zhe)擋關系也不(bu)(bu)很寫實。
圖：AI偽(wei)造圖的(de)細部。雖然像(xiang)素不高，但還是(shi)看得出物體之間的(de)穿(chuan)插、遮擋(dang)關系非常不自(zi)然。
到了(le)(le)10點(dian)40多，圖片(pian)引起了(le)(le)官方的(de)注(zhu)意。當(dang)地的(de)消防機(ji)構首先(xian)辟謠(yao)(yao)說(shuo)，當(dang)地沒有爆(bao)炸發生(sheng)。之(zhi)后陸續又有別的(de)組織出面辟謠(yao)(yao)，公眾才確認這則消息為假消息，并且照片(pian)是AI生(sheng)成的(de)。
塵埃落定之(zhi)后，一些網絡(luo)輿(yu)論的(de)(de)(de)矛(mao)頭開始(shi)指向(xiang)推(tui)特的(de)(de)(de)藍標(biao)(biao)(biao)政(zheng)策。在馬(ma)斯(si)克(ke)收(shou)購推(tui)特之(zhi)后，改變了藍標(biao)(biao)(biao)用戶的(de)(de)(de)認證(zheng)方(fang)式。在此之(zhi)前，藍標(biao)(biao)(biao)是(shi)免(mian)費授予(yu)經過身(shen)份認證(zheng)的(de)(de)(de)機構和名人的(de)(de)(de)。去年11月，馬(ma)斯(si)克(ke)把藍標(biao)(biao)(biao)政(zheng)策改成了“付費+認證(zheng)”的(de)(de)(de)形式。但是(shi)，新(xin)的(de)(de)(de)認證(zheng)方(fang)式十分的(de)(de)(de)不(bu)透明，被解讀為“拿錢買認證(zheng)”。本次“五角大(da)樓爆炸”假新(xin)聞事件也進一步印證(zheng)了，馬(ma)斯(si)克(ke)掌管下的(de)(de)(de)推(tui)特，認證(zheng)制度存在重大(da)缺陷。
不過，這真的只(zhi)是認證的問題(ti)嗎?
國內(nei)“AI內(nei)容(rong)監管第一槍”?
輿論對本次“五角大樓爆炸”假新聞事件的問題意識，盯住的是推特的“藍標認證”制度，因為“藍標”意味著賬號是由真實、負責任的人或組織運營的。這實際上的訴求在于“AI的使用者不能脫責”，這是目前針對AIGC(人工智能生(sheng)成內容)監(jian)管的一(yi)種典(dian)型(xing)策(ce)略。
同樣，像微信朋友圈、微博這種即時分享類型的平臺讓每個人都成了新聞資訊的發布者。那么，每個發布者為自己發布的信息負責，這一治理原則在這些平臺強化AI內容治理時也被延續了下來。
在“可追(zhui)責”的(de)考慮之上，一(yi)些平臺開始考慮給AI內(nei)容(rong)加標識(shi)，以防止(zhi)觀者混淆AI生成的(de)內(nei)容(rong)與真實內(nei)容(rong)。5月9日，抖(dou)音(yin)祭出了(le)被稱(cheng)為(wei)國內(nei)“AI內(nei)容(rong)監管第一(yi)槍”的(de)舉措(cuo)，要求創作者給AI視頻(pin)內(nei)容(rong)打(da)上“AI生成”的(de)水印。
圖：抖(dou)音(yin)規定的(de)“AI生成(cheng)”水印樣式。圖片截取自《抖(dou)音(yin)關于人工智能生成(cheng)內容(rong)標識的(de)水印與元數據規范》
但眼下(xia)，隨著AI內容生態的(de)演(yan)化，我(wo)們可以得(de)出一(yi)些新的(de)判斷：說抖音的(de)舉動是“AI內容監(jian)管第一(yi)槍”，可能夸(kua)大了其行業(ye)意義。
AI水印政策與抖音自身的屬性有關。抖音的內容本質上是一個博眼球、爭流量的注意力生意，所以抖音理應更關注為了爭取流量而不顧道德原則的AI內容。把AI內容在(zai)明顯的位置標(biao)出，或許能(neng)減少(shao)類(lei)似推特這次(ci)事件，有人把AI虛構的圖(tu)當作真實(shi)圖(tu)像來傳播(bo)，造成意料之外(wai)的麻煩(fan)。
類似地，抖音平臺要阻止用戶利用AI生成的劣質內容來沖流量。所以(yi)抖音(yin)禁止(zhi)了(le)單純讀(du)文案帶(dai)貨的(de)虛擬人直播。這些虛擬人主播可以(yi)永不停歇(xie)地一(yi)直播，并且可以(yi)被低成本復制(zhi)，同時用(yong)多個賬號(hao)播出，但是它在視覺(jue)、文案、表(biao)達上都(dou)十(shi)分(fen)粗制(zhi)濫造。這種內容(rong)對于抖音(yin)的(de)問題在于，用(yong)大規模低質量內容(rong)沖(chong)流量，沖(chong)淡平臺上的(de)優質內容(rong)。
抖音的一些AIGC治理舉措，其出發點還是抖音平臺自身的一些特征。抖音對AIGC的問題意識不一定是普適的。
監管重點的分化
在(zai)邏輯不同的(de)(de)內(nei)容平臺(tai)，例如B站這種看重用戶(hu)創(chuang)意(yi)的(de)(de)平臺(tai)，AI內(nei)容治理又是(shi)另一(yi)個樣貌。
3月(yue)30日(ri)，B站(zhan)董事長陳(chen)睿在(zai)(zai)中國網絡(luo)視(shi)聽大會上放出豪(hao)言，說B站(zhan)是目前AIGC內(nei)容質量(liang)最高、最豐富(fu)的平臺。果然不久(jiu)之(zhi)后，“AI孫燕姿”就(jiu)在(zai)(zai)B站(zhan)火了。
純從內容上說，“AI孫燕姿”是比較原始形態的AIUGC，即“AI輔助用戶生成內容”。它是AI內容的另一種樣態，甚至可能是未來AI內容的主流樣態。和抖音對“用AI虛構內容博眼球”的擔憂不同，AIUGC內容拼的依然是創意，這是UGC/PUGC生態的延續。只不過，正如“AI孫燕(yan)姿”所暴(bao)露出(chu)的(de)問題，AIUGC目前暴(bao)露出(chu)了知識(shi)產(chan)權(quan)保護方面的(de)重(zhong)大缺陷。
在“AI孫(sun)(sun)(sun)燕姿”這件事上，B站不曾站出(chu)(chu)來(lai)表(biao)達(da)(da)自己(ji)的(de)監管立場(chang)。倒(dao)是孫(sun)(sun)(sun)燕姿本(ben)人被炸(zha)出(chu)(chu)來(lai)，對“AI孫(sun)(sun)(sun)燕姿”表(biao)達(da)(da)了一種“無奈地寬恕”態度。孫(sun)(sun)(sun)燕姿的(de)原話是：“我(wo)的(de)粉(fen)絲們已正式改換門庭(ting)，接受我(wo)就是一名冷門歌手的(de)事實，而我(wo)的(de)AI角色成為(wei)了目前的(de)頂流。我(wo)想說(shuo)的(de)是，你跟一個每幾(ji)分鐘(zhong)就推出(chu)(chu)一張新專輯的(de)人(虎嗅注(zhu)：指AI孫(sun)(sun)(sun)燕姿)還有什么好(hao)爭的(de)。”
雖然(ran)孫燕姿個(ge)人(ren)很(hen)慷慨大度，但是AIGC的(de)知識產權(quan)爭議仍在。“AI孫燕姿”爆火(huo)之后，有人(ren)又提起了“數字水(shui)印”技(ji)術。簡單講，這(zhe)種(zhong)技(ji)術是在圖像、聲音、數據等載(zai)體上(shang)加標(biao)記，這(zhe)些標(biao)記是人(ren)看不(bu)到(dao)、聽不(bu)出的(de)，但可以(yi)用技(ji)術手(shou)段識別(bie)，并且在原始版權(quan)素材被(bei)改動(dong)之后，依然(ran)可以(yi)識別(bie)出其中(zhong)的(de)版權(quan)標(biao)記。這(zhe)種(zhong)技(ji)術頗受看好(hao)，但其規(gui)模(mo)性(xing)的(de)落地尚需時日。
但總之，B站這類重創意的內容平臺，或許能在AIGC的某些元問題上壓過那些重流量的內容平臺。正如Pinterest——知名的創意分享平臺、“設計師之友”——的首席執行官Bill Ready近期在評論AIGC時多次強調：AI內容應該是人們生活的“調味品”(additive)而非“癮品”(addictive)。如果內容平臺的(de)核心算(suan)法原(yuan)本就是讓用戶(hu)上癮，那么AIGC會在這(zhe)種算(suan)法中把人性的(de)缺陷進一步放大。
Pinterest自身在(zai)推薦算法(fa)上(shang)，堅(jian)持探(tan)索如何推送具(ju)有(you)創(chuang)意、靈感(gan)、個性化價(jia)值的(de)(de)內容。這使得(de)Pinterest對低(di)質量的(de)(de)AIGC有(you)一定的(de)(de)抵(di)抗力;同時(shi)富(fu)有(you)新意的(de)(de)AIUGC藝術作品開(kai)始在(zai)Pinterest上(shang)涌現。
圖(tu)：Pinterest上一位AI輔助創作(zuo)者(zhe)的(de)作(zuo)品目錄。他把自己利用Midjourney生成出來的(de)近百個主題(如“科(ke)幻場景”“通靈旅程(cheng)”“政治畫”“圣經風格(ge)”等(deng))分(fen)門別類，整理成庫。| 圖(tu)片來源：Pinterest @Vellectrum
所以在(zai)討論AIGC平臺監(jian)管的時候(hou)，也(ye)不(bu)能忽視AIGC反(fan)過來對平臺的改(gai)造(zao)，以及潛在(zai)的相互成就的機會。
在較短的(de)時間尺(chi)度(du)上，AI內(nei)容給平(ping)(ping)臺(tai)(tai)(tai)(tai)帶來(lai)(lai)一些監管上的(de)挑(tiao)戰(zhan)，并(bing)且不同運營邏(luo)輯的(de)內(nei)容平(ping)(ping)臺(tai)(tai)(tai)(tai)，其AI治理重點還(huan)有(you)分化之(zhi)勢。而在遠期(qi)，AI內(nei)容或許反(fan)過來(lai)(lai)決定平(ping)(ping)臺(tai)(tai)(tai)(tai)的(de)發(fa)展前(qian)景。這個遠期(qi)趨勢，或許才是內(nei)容平(ping)(ping)臺(tai)(tai)(tai)(tai)面臨的(de)終極挑(tiao)戰(zhan)。
