01

AI騙子，防不勝防

AI進(jìn)化的速度有多快，騙術(shù)也跟著變得更狠。

福州一位科技公司的老板，某天突然接到了個(gè)好友的微信視頻，說是自己的朋友在外地競標(biāo)，需要 430 萬的保證金，想走他的公司賬戶過個(gè)賬。老郭在確認(rèn)視頻通話里的人和聲音都是他朋友之后，就同意了。

隨后，對(duì)方就給老郭發(fā)了一張銀行卡轉(zhuǎn)賬成功的截圖，說是錢已經(jīng)轉(zhuǎn)到老郭的戶頭上了，由于老郭之前已經(jīng)確認(rèn)了朋友的身份，在沒確認(rèn)錢到帳與否的情況下，直接就把 430 萬轉(zhuǎn)到了好友給的銀行卡上。

結(jié)果，這是一場騙局，還是AI操控的。雖然接到報(bào)警后，福州、包頭兩地警銀迅速啟動(dòng)止付機(jī)制，成功止付攔截336.84萬元，但仍有93.16萬元被轉(zhuǎn)移。

還有利用AI進(jìn)行聲音合成實(shí)施的詐騙。騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過對(duì)方。

已經(jīng)有人因?yàn)锳I聲音被騙了。曾有某公司財(cái)務(wù)接到領(lǐng)導(dǎo)電話，要求立刻給供應(yīng)商轉(zhuǎn)款2萬元，并將轉(zhuǎn)賬信息以郵件形式發(fā)送，轉(zhuǎn)款理由是避免繳納滯納金，因?yàn)槔习宓目谝羰�分逼真，�?cái)務(wù)也信了，在1小時(shí)內(nèi)轉(zhuǎn)款完成，轉(zhuǎn)完才發(fā)現(xiàn)被騙。

AI 換臉早已不是什么新鮮事，很多短視頻鬼畜博主都精通這種操作，但擬聲技術(shù)相對(duì)復(fù)雜一些，畢竟犯罪分子需要獲取你的聲音，然后通過軟件將聲音變成他們想要的內(nèi)容。

實(shí)際上，如今的騙子想要獲取聲音也并不難，最普遍的方法就是騷擾電話，只要你接電話后并說了幾句話，那么犯罪分子就會(huì)對(duì)你的聲音進(jìn)行錄制，并提取你聲音的信息。

有業(yè)內(nèi)人士表示，犯罪分子通過這一套流程進(jìn)行詐騙的成功率基本是 100%，尤其是面向那些并不懂AI、防范意識(shí)可能薄弱的老年群體，AI詐騙更容易發(fā)生。

類似的聲音騙局，國外也早有發(fā)生。

一個(gè)國外的詐騙公司，使用 AI 模擬了“卷福”的音頻，打電話給一家新西班牙的小電影公司，稱想要和對(duì)方合作，并要求對(duì)方先打款 20 萬英鎊才能見面，結(jié)果在電影公司付完錢之后，他們才發(fā)現(xiàn)這次事件，完完全全就是一場AI騙局。

對(duì)于AI騙局，有律師表示，使用人工智能技術(shù)手段模仿真人面容、聲音，冒充親友、熟人、領(lǐng)導(dǎo)等，很容易達(dá)到以假亂真的程度，具有極強(qiáng)的迷惑性。與其他類型電信詐騙相比，AI詐騙迷惑性更強(qiáng)，針對(duì)性更強(qiáng)，辨識(shí)更困難。

如今，耳聽，眼見都不一定為實(shí)，各種騙局真是讓人防不勝防。

02

AI有多強(qiáng)大？讓孫燕姿本人都害怕

最近，關(guān)于AI還發(fā)生了一個(gè)熱點(diǎn)：孫燕姿本人親自回應(yīng)AI孫燕姿。

對(duì)于熱門歌手AI，孫燕姿自己都承認(rèn)，“諷刺的是，人類再怎么快也無法超越它。”

她在回應(yīng)小作文里寫道，“人類無法超越AI技術(shù)已指日可待，凡事皆有可能，凡事皆無所謂。”就算暫時(shí)能夠辨認(rèn)出AI歌手和真人歌手的區(qū)別，很快這條護(hù)城河也將不復(fù)存在。這種被虛擬淹沒真實(shí)的感受，如今已經(jīng)在全世界蔓延。

AI不光是唱歌可以完全貼近真人，連直播帶貨的活都可以接。

最近有人在直播間里發(fā)現(xiàn)，正在賣貨的竟是當(dāng)紅女星。然而再定睛一看，這些明星居然是使用了AI實(shí)時(shí)換臉技術(shù)的普通主播。

AI實(shí)時(shí)換臉，正在直播間悄然出現(xiàn)，楊冪、迪麗熱巴、angelababy等當(dāng)紅女星，成為了AI換臉的熱門。雖然目前還沒有曝出被騙新聞，但由于明星臉的帶貨主播往往擁有更好的引流效果，消費(fèi)者或明星粉絲很可能會(huì)沖著明星效應(yīng)進(jìn)行消費(fèi)而被坑騙。

而這種技術(shù)門檻也并不高。有媒體報(bào)道，AI實(shí)時(shí)換臉全套模型購買價(jià)僅需3.5萬元。

買不起全套模型，還有“AI換臉特效插件”供買家選擇，售價(jià)數(shù)百元，只對(duì)電腦配置有一定要求，購買后使用者只需更換素材照片，軟件就能自己運(yùn)行完成“換臉”。這款軟件不僅能對(duì)圖片進(jìn)行換臉，也能在視頻上進(jìn)行換臉。

AI換臉的風(fēng)靡，還帶來了“AI脫衣”的新問題。早在今年3月，一則“女子地鐵照被AI一鍵脫衣傳播”的新聞沖上了熱搜，一名女性搭乘地鐵時(shí)的一張照片被人用AI軟件“一鍵脫衣”，遭到惡意傳播，罪犯還廣泛散布不實(shí)信息對(duì)該女子進(jìn)行污蔑。

更可怕的是，AI深度偽造（DeepFake）內(nèi)容，可以利用互聯(lián)網(wǎng)平臺(tái)在全球范圍內(nèi)病毒式傳播。比如AI現(xiàn)在居然還能通過發(fā)布假新聞，讓股市抖三抖。

幾天前，多個(gè)經(jīng)過驗(yàn)證的推特賬戶，齊刷刷分享了一張聲稱在五角大樓附近發(fā)生爆炸的假照片，頓時(shí)引起轟動(dòng)，并導(dǎo)致股市短暫下跌。

這張照片雖然具有AI生成的所有特征，但是因?yàn)楸辉S多經(jīng)過驗(yàn)證并打上了藍(lán)色勾的推特賬戶分享，不少人還是信以為真，謠言一傳十十傳百，甚至有人聲稱這張照片與彭博新聞?dòng)嘘P(guān)。

連印度一家電視臺(tái)都信了，共和國電視臺(tái)(Republic TV)報(bào)道稱五角大樓發(fā)生了爆炸，并在節(jié)目中播放了這張假圖片，后來，當(dāng)發(fā)現(xiàn)美國當(dāng)?shù)毓賳T證實(shí)沒有發(fā)生此類事件后，共和國電視臺(tái)快速撤回了這則報(bào)道，這一番操作下來也是相當(dāng)尷尬。

03

AI騙局，并非沒有破綻

隨著AI技術(shù)的不斷發(fā)展，被AI騙的人越來越多。根據(jù)殺毒軟件 McAfee 公布的最新報(bào)告，基于人工智能的語音詐騙越發(fā)猖獗，在接到 AI 詐騙電話的群體中，有 77% 的人會(huì)上當(dāng)受騙。

今年3月，一份名為《暫停大型人工智能研究》的公開信在未來生命研究所官網(wǎng)上發(fā)布，包括特斯拉CEO埃隆·馬斯克（Elon Musk）、蘋果公司聯(lián)合創(chuàng)始人史蒂夫•沃茲尼亞克（Steve Wozniak）等人在內(nèi)的千名科學(xué)家、企業(yè)高管簽字呼吁暫緩GPT-4以上版本的研發(fā)，他們矛頭所指都是強(qiáng)大AI技術(shù)可能的負(fù)面用途。

不過AI詐騙雖然逼真，但它并不是沒有破綻，比如AI換臉技術(shù)會(huì)導(dǎo)致臉部變形，一些主播低下頭頭頂會(huì)發(fā)黑，AI的聲音，也很難表達(dá)真實(shí)的主觀情緒。

正如不少網(wǎng)友所說，AI孫燕姿“根本不是孫燕姿的唱法。”“AI孫燕姿能模仿她的音色，但模仿不到她的感情；AI孫燕姿能模仿她的聲音，但模仿不了她的現(xiàn)場。”

與此同時(shí)，國內(nèi)與AI換臉、換聲相關(guān)的法律法規(guī)也在不斷完善。

在過去，“AI換臉”被大量使用到影視劇二度創(chuàng)作、趣味惡搞視頻、表情包制作當(dāng)中，其中隱藏的法律風(fēng)險(xiǎn)和侵權(quán)糾紛，如今都在得到重視，不少擦邊行為已經(jīng)得到了及時(shí)的懲治。

比如近期，據(jù)企查查官網(wǎng)信息顯示，上海魚腥草信息科技有限公司就因旗下一款換臉手機(jī)APP遭多位網(wǎng)紅博主起訴，很快在監(jiān)管部門約談后，這款A(yù)pp下架，因?yàn)閾Q臉侵犯了公民的肖像權(quán)。

去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布，對(duì)人臉生成、替換、操控，合成人聲、仿聲等都有明確約束。顯然，隨著制度設(shè)計(jì)更精準(zhǔn)，相關(guān)立法更健全，AI肆意換臉的空間將越來越小。

就在4月11日，國家互聯(lián)網(wǎng)信息辦公室又迅速起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，涉及的生成式人工智能包括基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)，可以說，對(duì)當(dāng)下的AI偽造都進(jìn)行了更為全面的約束。

AI究竟是天使還是魔鬼，全在于使用者的一念之差，但唯一可以確定的是，潘多拉魔盒，已經(jīng)打開。

參考資料：

《AI詐騙正在全面爆發(fā)》，紅星新聞；

《“AI換臉”詐騙防不勝防？要用“法”打敗“魔法”！》，京報(bào)網(wǎng)；

《警惕四大AI新騙術(shù)，有人10分鐘被騙430萬》，智東西

       原文標(biāo)題 : 10分鐘騙走430萬，如何堤防詐騙新技術(shù)？