文／VR陀螺 林德

數(shù)字人，是構(gòu)成元宇宙的要素之一。隨著AI、面部識別以及3D建模和動作／表情捕捉相關(guān)技術(shù)的發(fā)展，近兩年，虛擬數(shù)字人以各種身份形象出現(xiàn)在我們的視野中。然而當(dāng)Avatar與真人越來越接近，不只看起來像，連表情、聲音都能和真人一摸一樣，那未來這些技術(shù)被用來作惡的風(fēng)險也將大大提升。

前段時間，憑一言之力左右?guī)湃Φ墓饭穾胖�父馬斯克以新身份“幣圈慈善家”的形象在Youtube、推特發(fā)起一個送錢項(xiàng)目－－給我你的幣，我給你每天30％的回報率。

圖源：網(wǎng)絡(luò)

科技企業(yè)家變大慈善家？事出反常必有妖，做慈善這顯然是不可能的。

“名人”詐騙層出不窮，

以假亂真的DeepFake

這一片段是詐騙團(tuán)隊(duì)利用DeepFake，也就是深偽技術(shù)換臉“導(dǎo)”出的一場戲。通過截取馬斯克在TED采訪的視頻，并為其配音，為的就是推出BitVex比特幣詐騙平臺。（BitMex是一個正規(guī)比特幣交易平臺）

“絕對不是我本人！”馬斯克本尊辟謠（圖片：推特）

除此之外，詐騙分子還偽造了方舟投資（Ark Invest）CEO凱瑟琳·伍德、以太坊聯(lián)合創(chuàng)始人查爾斯·霍斯金森等多位幣圈名人推薦BitVex的視頻。

圖源：worldnews

雖然此騙局很快被拆穿，但作為幣圈大粉頭，馬斯克也不是第一次因被假冒而下場辟謠了，從去年5月至今年年初，假冒馬斯克的視頻層出不窮。

去年，SpaceX詐騙案斂金超1000萬美元，今年年初光是靠DeepFake技術(shù)換臉馬斯克喊出“給我一個幣，我給你兩個”的騙局在一周內(nèi)就達(dá)到24．3萬美元，光是年初到現(xiàn)在詐騙總額高達(dá)3000萬美元（約人民幣2億）。

假冒交易網(wǎng)站中有馬斯克的換臉視頻圖源：網(wǎng)絡(luò)

比起過去單純的利用文字、語音包這類詐騙手段，動態(tài)視頻顯然更具有說服力，這一樁樁假名人詐騙事件都再次把DeepFake騙局推上熱搜。

什么是Deepfake？

Deepfake深偽技術(shù)指深度學(xué)習(xí)（Deep Learning）＋Fake（偽造）的合成詞，現(xiàn)在專門指基于AI的圖像、音頻等合成技術(shù)的應(yīng)用，其中最為大眾熟知的形式就是AI換臉。

Deepfake技術(shù)的發(fā)展，離不開一個于2014年提出的關(guān)鍵深度學(xué)習(xí)技術(shù)GAN，生成對抗網(wǎng)絡(luò)。GAN由兩個互相博弈的神經(jīng)網(wǎng)絡(luò)組成，可以簡單地把這項(xiàng)技術(shù)理解成一種無監(jiān)督，用來訓(xùn)練生成模型的框架。在這個自動訓(xùn)練框架下，加以結(jié)合其他圖像深度學(xué)習(xí)模型、自動編碼器等可以實(shí)現(xiàn)通過大量的圖片對目標(biāo)人臉替換。

根據(jù)目前主流說法，Deepfake技術(shù)主要分為四類：重現(xiàn)、替換、編輯和合成。

重現(xiàn)：對目標(biāo)人物表情、身體、五官、頭部等運(yùn)動的圖像的重新生成；替換：面部轉(zhuǎn)移，面部交換等；編輯：通過添加、更改或刪除目標(biāo)身份的屬性。例如，更換目標(biāo)對象的衣服、胡子、年齡、體重、顏值和甚至種族、膚色；合成：沒有目標(biāo)人物的基礎(chǔ)上由AI創(chuàng)建角色。  

圖源：網(wǎng)絡(luò)

在GAN被提出的三年后，一名Reddit用戶deepfakes于2017年12月發(fā)布了轟動一時的當(dāng)紅女演員斯嘉麗·約翰遜等的非法色情換臉視頻，Deepfake一詞開始被大眾熟知。

同時，比起一幀一幀換臉的傳統(tǒng)模式，2019年開始以Deepfake技術(shù)為主的開源軟件FaceApp、ZAO、Github開源代碼等的興起，一經(jīng)發(fā)布便在網(wǎng)絡(luò)掀起第一輪“換臉”熱潮。

至此之后，網(wǎng)絡(luò)上開始出現(xiàn)大量Deepfake技術(shù)生成的換臉視頻。

觸手可及，Deepfake是把雙刃劍

Deepfake的開源技術(shù)、以及“傻瓜式”實(shí)時換臉軟件的興起使得極具娛樂性的一些應(yīng)用，例如換臉Cosplay火爆全網(wǎng)。自2019年興起的以ZAO為代表的換臉視頻軟件開始，Deepfake變得觸手可及。根據(jù)創(chuàng)業(yè)公司Deeptrace的數(shù)據(jù)，從2019年10月到2020年6月，網(wǎng)絡(luò)上的Deepfake視頻的數(shù)量增加了330％。

ZAO的換臉視頻，一夜之間“全民Cosplay”

圖源：北美生活引擎

不僅是影視劇的制作例如換角、補(bǔ)拍，在對已故之人的“重現(xiàn)”上Deepfake技術(shù)也能大展身手。

重現(xiàn)愛因斯坦（圖源：PARTIPOST）

在國內(nèi)目前主流的各大社交媒體平臺，微博、抖音、快手、B站等，也可以看到Deepfake技術(shù)無處不在。

病毒式傳播，B站上的明星換臉二創(chuàng)視頻圖源：bilibili

比起國內(nèi)流行的換臉二創(chuàng)形式，在海外社交媒體上，扛起海外流行大旗是披著AR濾鏡外衣的Deepfake應(yīng)用。從哭臉濾鏡到笑臉濾鏡，魔性的濾鏡讓用戶陷入“惡搞狂歡派對”。

Tiktok上超熱門哭臉濾鏡圖源：mashable

從個人發(fā)散到明星，這些二次創(chuàng)作都在一定程度上為明星、作品帶來新的熱度的同時，也為平臺帶來了更多的流量，Deepfake技術(shù)在推動娛樂文化的發(fā)展上有著非常大的優(yōu)勢。

除了娛樂化應(yīng)用之外，在元宇宙的相關(guān)版塊上，Deepfake技術(shù)也能發(fā)揮其積極價值。

目前元宇宙賽道中，除硬件、軟件之外，還有一條熱門賽道——元宇宙原住民，虛擬人，虛擬主播、虛擬偶像、虛擬主持人、虛擬記者等各色職業(yè)的虛擬人層出不窮。

今年新任的韓國總統(tǒng)尹錫悅使用Deepfake創(chuàng)建虛擬形象AI Yoon在網(wǎng)絡(luò)走紅圖源：SCMP

Deepfake的技術(shù)特點(diǎn)正好符合創(chuàng)造虛擬人、虛擬化身的要點(diǎn)。Deepfake技術(shù)在GAN的加持下，可以對虛擬人的面部運(yùn)動進(jìn)行進(jìn)一步優(yōu)化，并且基于圖像深度學(xué)習(xí)模型使得Deepfake技術(shù)擁有大量面部信息，這對優(yōu)化未來虛擬化身而言無疑提供了大量的學(xué)習(xí)范本。

但在這項(xiàng)技術(shù)變得越來越普及且越來越難辨真假的同時，人們對Deepfake技術(shù)的擔(dān)憂也越來越多。根據(jù)2021年的韓國成均館大學(xué)的研究論文，Microsoft的Azure認(rèn)知服務(wù)對高達(dá)78％的Deepfake視頻均無法辨認(rèn)。

Deepfake的威脅

除了前文提到的馬斯克等名人詐騙案之外，Deepfake被用于非法謀利的案件日益增多。

不正當(dāng)競爭：今年年初在領(lǐng)英上，70多家公司被曝利用Deepfake技術(shù)生成的虛擬人物作虛假銷售賬戶，以此擴(kuò)展業(yè)務(wù)同時減少在雇用人員上的支出；詐騙：犯罪分子通過Deepfake技術(shù)偽造母公司負(fù)責(zé)人聲音導(dǎo)致英國新能源公司的CEO被詐騙超20萬美元；造假：國外選舉期間，網(wǎng)絡(luò)上出現(xiàn)大量“政治視頻”，其中許多利用Deepfake技術(shù)發(fā)表政治聲明，從而動搖、影響選舉局面等。

假特朗普呼吁采取行動應(yīng)對氣候變化，說服人們在請愿書簽字。雖然很假，但上當(dāng)者頗多

圖源：InfoQ

報復(fù)：不僅是個人，對于企業(yè)以及明星而言，Deepfake影片成為新興的報復(fù)性工具，Deepfake編造的不實(shí)消息，讓人們的肖像權(quán)、名譽(yù)權(quán)等權(quán)益受到危害。例如，Deepfake 色情影片也已經(jīng)被用來勒索女性記者和新聞工作者，印度記者 Rana Ayyub曾經(jīng)曝光過被Deepfake視頻勒索的行為。

某馬來西亞政治家因一段涉嫌從事同性戀活動的影片而被判入獄，但后來證實(shí)影片為Deepfake偽造．．．．．．諸如此類的故事正在不斷上演。

Tiktok上的假阿湯哥圖源：Tiktok

去年，德國媒體Mixed曾發(fā)表過一篇文章，關(guān)于創(chuàng)建一個Deepfake視頻需要多長時間。根據(jù)作者的實(shí)驗(yàn)，他使用DeepFaceLab開源軟件進(jìn)行測試，從提取視頻中的人臉照片到驗(yàn)證人臉（大約650張照片），再到約17個小時的AI訓(xùn)練，將鋼鐵俠小羅伯特唐尼與馬斯克進(jìn)行換臉。

圖源：Mixed

雖然換臉效果相對較粗糙，但作為一個非專業(yè)人士在沒有專業(yè)工具，龐大的數(shù)據(jù)集和預(yù)訓(xùn)練模型的基礎(chǔ)下，在幾天時間內(nèi)制造出上述程度的Deepfake視頻意味著如今人工智能進(jìn)化的腳步使得Deepfake技術(shù)變得更加容易。除了自己摸索之外，更是有賣家在某二手交易平臺出售相關(guān)技術(shù)、教程等，Deepfake技術(shù)的門檻一降再降。

圖源：燃財經(jīng)

即使有些Deepfake視頻并沒有出神入化到足以令人信服的地步，但想象一下，在Deepfake技術(shù)的升級，以及如今信息泄露的情況，如果不法分子利用你身邊人的照片，從而導(dǎo)演出一場無限逼真的戲，那會有多可怕？

因此為了解決不斷升級的Deepfake技術(shù)帶來的隱私和安全問題，軟件、平臺和政策都在積極地采取措施。

從2019年開始，各國、各平臺便開始針對Deepfake出臺一些新的保障政策：

今年6月，Google 修改平臺政策，禁止開發(fā)者使用其 Colaboratory 平臺的服務(wù)進(jìn)行 Deepfake 項(xiàng)目的研究；2020年，Meta全面禁止 deepfake 類視頻的傳播；2020年，國內(nèi)印發(fā)的《法治社會建設(shè)實(shí)施綱要（2020 － 2025年）》進(jìn)一步要求，對深度偽造等新技術(shù)應(yīng)用，制定和完善規(guī)范管理辦法；美國2019年正式簽署生效的2020財年國防批準(zhǔn)法當(dāng)中包含了和 deepfake 相關(guān)的條文。．．．．．．

不過即使是在政策加持下，Deepfake偽造視頻就像是打地鼠一般，平臺的監(jiān)管往往趕不上生成視頻的速度，為此Meta、微軟、谷歌等科技公司都開始使用“魔法打敗魔法”策略，著手開發(fā)監(jiān)測Deepfake技術(shù)的內(nèi)容模型。

但這場AI之間的攻防戰(zhàn)，同時會使Deepfake技術(shù)再次升級，根據(jù)數(shù)據(jù)表示，Deepfake技術(shù)的檢測仍然具有3％的錯誤率。在海量的生成視頻中，3％也將造成大量的偽造視頻的傳播。未來的Deepfake將迎來更多的挑戰(zhàn)，如何保障Deepfake技術(shù)的合理運(yùn)用的道路還需要更多的探索。

       原文標(biāo)題 : 數(shù)字人的最大“隱憂”！半年詐騙2億，Deepfake騙局再次引爆互聯(lián)網(wǎng)