近日，AI換臉詐騙事件頻發，“馬斯克預言”印證時刻比預期來的早了些。兩個月前，馬斯克等千人簽署聯名信，呼吁停訓更強大的AI系統六個月，理由是擔心更強大的AI系統會對社會和人類構成潛在風險，不(bu)曾想風險已經侵入人類生活。
5月22日，話題“AI詐騙正在全國爆發”沖上熱搜榜。繼福建某科技公司老板被冒充好友的騙子通過AI換臉技術，在10分鐘內被騙走430萬元之后，又一安徽男子在僅9秒內被使用AI換臉技術的騙子騙走132萬，網友直呼“防不勝(sheng)防”。
北京華讓律師事務所律師夏博涵對搜狐科技表示，“該行為構成詐騙罪，依據詐騙數額不等，最高可判處無期徒刑。對于深度合成服務提供者，依據《互聯網信息服務深度合成管理規定》，應制定和公開完善的管理規則、平臺公約，依法履行管理職責，采取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核。”
據悉，除了AI換臉視頻詐騙，某些電商主播利用AI換臉技術偽裝成“成龍”、“楊冪”等明星直播帶貨，從而引流并節省直播成本。抖音平臺相關人員對搜狐科技表示，“平臺不允許換臉直播，如發現會直接斷播，且會對侵權商家進行信譽分扣除的處置，對于被處置后仍換臉直播的賬戶，將限制其直播權限。”
技術引發的風險問題最終還需要用技術手段去補救，值得欣慰的是，隨著AI換臉越來越多地被濫用，用于識別AI換臉技術的新模型也應(ying)用(yong)而生。
“AI換臉”是怎么實現的?
AI換臉技術的研發初心是用于影視娛樂、游戲開發等領域，意在給用戶提供更真實的觀賞體驗。
據了解，AI換臉技術實現原理主要包括人臉檢測、人臉對齊、特征提取、特征融合、以及重建圖像。
其中，人臉檢測技術用于檢測輸入圖像中的人臉位置和面部特征;人臉對齊技術利用仿射變化等技術，使不同人臉面部特征點位置相同;特征提取技術使用深度學習模型，例如卷積神經網絡(CNN)，提取面部形狀、紋理、顏色等特征;特征融合技術使用線性插值或非線性插值變換方法，將兩張不同人臉面部特征進行融合，生成新的面部特征;最后利用重建圖像技術，將新的(de)面部特征映(ying)射回(hui)圖(tu)像空間中，生成一張具(ju)有(you)換臉效果的(de)新圖(tu)像。
搜狐科技挑選了一款當前較為熱門的“騰訊云AI人臉融合”應用作(zuo)為測(ce)試軟件，看一看“AI換(huan)臉”技術重塑人(ren)像能(neng)達到什么程度。
搜狐科技隨機選擇了一位男士圖片作為模版圖，用吳彥祖的圖片作為選臉圖，測試結果顯(xian)示，經過(guo)AI處理后的男士人像眉眼間顯(xian)露出(chu)吳彥祖的特點，但發(fa)型等面部以外(wai)的部分沒有發(fa)生變化。
據包頭警方披露(lu)，4月(yue)20日，福州市某科技公(gong)(gong)司法人(ren)代表郭先(xian)生(sheng)的(de)(de)好(hao)友(you)突然通(tong)過(guo)(guo)微信(xin)視頻聯系到他，兩人(ren)經過(guo)(guo)短暫聊天(tian)后(hou)，好(hao)友(you)告訴郭先(xian)生(sheng)，自己的(de)(de)朋友(you)在外地投標，需要(yao)430萬元保證金，且需要(yao)公(gong)(gong)對公(gong)(gong)賬(zhang)戶過(guo)(guo)賬(zhang)，所以想要(yao)借用郭先(xian)生(sheng)公(gong)(gong)司的(de)(de)賬(zhang)戶走一下賬(zhang)。好(hao)友(you)向郭先(xian)生(sheng)要(yao)了(le)(le)銀(yin)行(xing)卡號，聲稱(cheng)已經把錢打到郭先(xian)生(sheng)的(de)(de)賬(zhang)戶上，還把銀(yin)行(xing)轉賬(zhang)底(di)單的(de)(de)截圖通(tong)過(guo)(guo)微信(xin)發給了(le)(le)郭先(xian)生(sheng)。基(ji)于(yu)視頻聊天信任的前(qian)提下，郭(guo)先(xian)(xian)生沒(mei)(mei)有核(he)實錢是否到賬，分先(xian)(xian)后分兩筆把430萬(wan)元給(gei)對方打了(le)過去。錢款轉(zhuan)賬后，郭(guo)先(xian)(xian)生給(gei)好友微信發了(le)一(yi)條消息(xi)，稱(cheng)事情已經(jing)辦妥。但(dan)讓(rang)他(ta)沒(mei)(mei)想到的是，好友回(hui)過來的消息(xi)竟然(ran)是一(yi)個問號(hao)。
郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技(ji)術，佯裝成(cheng)好友對他實施了詐(zha)騙。
IT技術人員向搜狐科技分析，有黑客專門研發AI實時換臉工具，和現在手機植入實時美顏一個道理。
罪犯可能利用漏洞盜取受害人好友的微信賬號，通過社交平臺獲取受害人好友的照片或視頻，用攝像頭捕捉自己的面部特征，再利用實時AI換臉工具將受害人好友的面部特征與自己融合，佯裝受害人好友進行(xing)交談，以達(da)到詐騙目(mu)的。
反制AI濫用的技術進展如何?
魔高一尺，道高一丈。2020年，微軟亞洲研究院與北京大學曾共同發布的《Face X-ray for More General Face Forgery Detection》論文，用于甄別AI換臉技術的新模型Face X-Ray具備兩大屬性：能泛化到未知換臉算法、能提供可解釋的換臉邊界。
論文主創作者之一、微軟亞洲研究院常務副院長郭百寧表示，“在圖像采集過程中，每一張圖像都有其獨特的特征，它們可能來源于拍攝硬件，或者處理軟件。只要不是一體生成的圖像，它們在融合的過程中都會留下線索，這些線索人眼看不到，但深度學習能捕獲。”
論文中展示了圖像噪聲分析與誤差水平分析技術，可以看到真(zhen)(zhen)實(shi)圖(tu)(tu)像(xiang)展現出(chu)一(yi)致(zhi)地(di)噪聲模式，而換臉(lian)明顯會有所不同(tong)(a組(zu)圖(tu)(tu)片為真(zhen)(zhen)臉(lian)，b組(zu)圖(tu)(tu)片為合成(cheng)圖(tu)(tu)像(xiang)，中間(jian)列為噪聲分析圖(tu)(tu)像(xiang)，右(you)側一(yi)列是(shi)誤差水平分析圖(tu)(tu)像(xiang))。
據介紹，Anti-Deepfake分為被動式檢測和主動式防御兩大類，其中被動式檢測(ce)技術側重(zhong)于事后取證，即針對已經制作并(bing)傳播的視頻進行檢(jian)測，判(pan)別其是否屬于偽造人臉視頻;另一類主動式防御技術側重于事前防御，即(ji)在人臉(lian)數據(ju)發布傳播前添(tian)加隱藏信息(xi)，如水(shui)印、對抗噪聲等，進行(xing)主動溯源或(huo)使得惡意使用者無(wu)法利(li)用添(tian)加了(le)噪聲的人臉(lian)視(shi)頻進行(xing)偽(wei)造(zao)，從而達到保護人臉(lian)，實(shi)現主動防御的目的。
國家網信辦、工信部、公安部此前聯合發布的《互聯網信息服務深度合成管理規定》第六條(tiao)明確，“任何組織和個(ge)人不(bu)得(de)利(li)(li)用深度合成(cheng)服務制作、復制、發布、傳播法(fa)律、行政法(fa)規禁(jin)止的信息(xi)，不(bu)得(de)利(li)(li)用深度合成(cheng)服務從事危(wei)害(hai)國家(jia)安全和利(li)(li)益、損害(hai)國家(jia)形象、侵害(hai)社(she)(she)會公共利(li)(li)益、擾亂經濟和社(she)(she)會秩序、侵犯他人合法(fa)權益等(deng)法(fa)律、行政法(fa)規禁(jin)止的活(huo)動(dong)。”
夏博涵強調，“除AI換臉視頻詐騙外，當前很多手機應用軟件均需要刷臉認證，不法分子可能通過AI換臉技術將自己冒充成真正的權利人。這就需要我們嚴格保護好個人信息，防止外泄，同時建議設定其他多種身份驗證方式。另一方面，軟件供應商也需要在(zai)技術(shu)上進一步(bu)研發，提高安全系(xi)數，防范不法(fa)分子趁虛而(er)入(ru)。”
