隨著生成式AI技術(shù)，如GPT-4等強(qiáng)大的語言模型的廣泛普及，人們對于AI在各個領(lǐng)域，如文本創(chuàng)作、藝術(shù)繪畫、翻譯，以及替代傳統(tǒng)的人工客服等方面的潛力滿懷期待。

然而，這種對未來技術(shù)的期待之余，我們也不得不面對AI技術(shù)可能被濫用的風(fēng)險。讓我們關(guān)注的是，一些犯罪分子已開始巧妙地利用AI技術(shù)進(jìn)行電信詐騙，這無疑給我們的防范帶來了新的挑戰(zhàn)。

2019年，全球首例AI詐騙案發(fā)生在英國，一名詐騙者利用先進(jìn)的AI語音模仿軟件，假扮公司高層，成功騙取一家英國能源公司總經(jīng)理的22萬歐元。近期在國內(nèi)，一例更令人震驚的案件中，某公司法人在使用微信與好友視頻聊天的短短10分鐘內(nèi)被騙取了高達(dá)430萬元。

這些駭人聽聞的案例揭示了AI生成虛假信息所潛在的巨大社會風(fēng)險，同時也讓我們對人工智能軟件被用于各類犯罪活動的可能性深感憂慮。

在人工智能技術(shù)的興起之時，我們正處于尋找最佳應(yīng)用場景與商業(yè)落地的關(guān)鍵期。雖然這類個別的詐騙案例不會直接扼殺AI的發(fā)展，但如果不能妥善解決相關(guān)的安全和隱私問題，也許會對人工智能的前景產(chǎn)生負(fù)面影響，形成對AI發(fā)展的壓力。

AI詐騙：為何成功率極高？

AI詐騙的出現(xiàn)在很大程度上得益于人工智能技術(shù)，尤其是深度學(xué)習(xí)和機(jī)器學(xué)習(xí)的快速發(fā)展。通過這些先進(jìn)的技術(shù)，詐騙者能夠逐步訓(xùn)練出能夠模擬人類行為和語言的AI，甚至能制作出極為逼真的虛假視頻或音頻（例如：人工智能的深度換臉技術(shù)Deepfakes）。

這些偽造的內(nèi)容極度真實，讓識別真假變得異常困難，從而大大提高了詐騙者的欺騙效果。

在這個日益數(shù)字化的社會，人們在網(wǎng)絡(luò)和社交媒體上的活動越來越頻繁，每個人都在生成大量的數(shù)字化信息。這為詐騙者提供了廣闊的操作空間，他們可以利用這些平臺，配合AI技術(shù)，進(jìn)行大規(guī)模、精準(zhǔn)的詐騙行為。

無論是通過大數(shù)據(jù)分析來獲取被詐騙對象的行為習(xí)慣，更精確地定位其所處的社會層級和經(jīng)濟(jì)實力，還是通過熟悉的偏好接近對象，獲得其信任，最終達(dá)到詐騙目標(biāo)，都顯示了AI詐騙的高效性和隱蔽性。

詐騙者往往擁有比受害者更多的信息和技術(shù)資源，這使得受害者在面對這種高科技詐騙時，難以察覺和防御。因此，信息和技術(shù)的不對稱性，無疑成為了AI詐騙的一大優(yōu)勢。

然而，盡管一些地方已經(jīng)開始制定針對AI詐騙的法規(guī)，但法律和監(jiān)管的滯后也是一個不容忽視的問題�，F(xiàn)有的法律和規(guī)定往往無法跟上技術(shù)的快速發(fā)展，導(dǎo)致AI詐騙在法律漏洞中找到足夠的操作空間。

最后不可忽視的是，經(jīng)濟(jì)激勵是推動詐騙者行動的主要因素。由于AI詐騙往往難以被察覺，詐騙者可以獲得更高的經(jīng)濟(jì)收益。這種巨大的利益誘惑，也使他們愈加積極地進(jìn)行這種活動。

綜上，可以看出，AI詐騙的成功率之高，主要源于其技術(shù)優(yōu)勢、社會數(shù)字化、信息不對稱、法規(guī)滯后以及經(jīng)濟(jì)激勵等因素。

AI詐騙與傳統(tǒng)詐騙相比，成本更低

隨著AI技術(shù)的發(fā)展，它不僅改變了許多領(lǐng)域的工作方式，還深刻地改變了詐騙的形態(tài)，使得電信詐騙更加難以防范。

舉個例子，AI換臉技術(shù)已經(jīng)相對成熟，可以以較低的成本合成出極其真實的動態(tài)視頻。最近的一個案例中，一名女子被一段偽造的自己的視頻所詐騙，讓她相信自己無意間涉及了一場犯罪，最終被騙走了大量財物。

AI詐騙具有高度自動化的特點。經(jīng)過適當(dāng)訓(xùn)練的AI模型能夠在無人工干預(yù)的情況下自動運行。這意味著一旦AI詐騙工具被創(chuàng)建并部署，它就可以全天候、24小時進(jìn)行欺詐行為，無需人工參與，從而降低了詐騙的人力成本。

首先技術(shù)從哪來？在GitHub等開源社區(qū)上，就有開源使用的AI換臉軟件。其中最知名的是Deepfacelive、Deepfacelab兩種著名開源換臉模型。很多相關(guān)的技術(shù)社區(qū)、論壇、貼吧，有大量小白入門系列教程，甚至還有中文版AI現(xiàn)成模型下載，一些交易平臺上也有大量教程與教學(xué)包售賣，價格數(shù)元起。

此外，AI詐騙具有很強(qiáng)的可擴(kuò)展性。與需要人工參與的傳統(tǒng)詐騙方式不同，AI詐騙可以在短時間內(nèi)輕易擴(kuò)展到大規(guī)模。

舉例來說，某詐騙集團(tuán)完全可以利用自動撥打系統(tǒng)、AI語音識別和自然語言處理技術(shù)，日均撥打幾十萬甚至上百萬次電話（類似海外ip呼出），范圍覆蓋全國多個城市。這種規(guī)模的擴(kuò)張僅需增加一些計算資源，就能讓AI詐騙影響到更多的人。

AI詐騙利用深度偽造和自然語言處理等技術(shù)制造出相當(dāng)逼真的假象，使得詐騙行為更難以被察覺。例如，某歐洲能源公司因為一通偽造的CEO電話而被詐騙了約22萬歐元。因為它們可以在不被察覺的情況下模擬人類的行為，這降低了詐騙行為被發(fā)現(xiàn)和制止的可能性，進(jìn)一步降低了詐騙的風(fēng)險成本。

然而，我們需要意識到，開發(fā)和訓(xùn)練一個有效的AI模型并不容易，這需要大量的數(shù)據(jù)、專門的技術(shù)知識和計算資源，都需要投入一定的成本。

隨著法律監(jiān)管力度的加大和識騙技術(shù)的發(fā)展，AI詐騙的風(fēng)險和成本也可能會增加。一些國家已經(jīng)開始建立相關(guān)法律，對使用AI進(jìn)行詐騙的行為給予嚴(yán)厲懲罰。因此，盡管AI詐騙在某些方面具有成本優(yōu)勢，但實施AI詐騙仍然需要考慮多方面的風(fēng)險和代價。

魔法打敗魔法：社交平臺的關(guān)鍵角色

在這個數(shù)字化的時代，社交平臺顯然已成為AI詐騙的主要戰(zhàn)場。人們在社交平臺上進(jìn)行大量的在線活動和社交互動，為詐騙者提供了豐富的目標(biāo)選擇和信息來源，使得AI詐騙在社交平臺上層出不窮。

舉例來說，在一次針對社交媒體用戶的詐騙中，詐騙者利用AI技術(shù)模仿了受害者朋友的語音，發(fā)起了一次虛假的緊急求助。受害者在無法分辨語音真假的情況下，被騙取了大量資金。

另外，一些詐騙者使用深度學(xué)習(xí)技術(shù)制作了假冒名人的虛假視頻，聲稱這些名人在推薦某種投資機(jī)會，從而騙取了無數(shù)人的財產(chǎn)。

社交平臺的多元性和開放性使得監(jiān)管和防范變得困難。用戶眾多且行為各異，詐騙者往往能夠混入其中進(jìn)行犯罪行為。一旦被識別出來，他們往往已經(jīng)騙取了大量財富，并逃之夭夭。

因此，社交平臺在防止AI詐騙中扮演著至關(guān)重要的角色。它們需要利用先進(jìn)的技術(shù)手段進(jìn)行預(yù)防，制定并執(zhí)行明確的用戶政策，加強(qiáng)對用戶的教育和引導(dǎo)，以便盡可能地減少AI詐騙的發(fā)生。

升級技術(shù)魔法打敗：首先，社交平臺需要強(qiáng)化技術(shù)防護(hù)。借助機(jī)器學(xué)習(xí)等先進(jìn)技術(shù)，平臺可以檢測并標(biāo)記出異常行為或可疑賬戶。例如，通過分析用戶的行為模式，機(jī)器學(xué)習(xí)算法可以尋找并識別出與正常行為模式不符的行為，這類行為往往暗示可能存在詐騙行為。

建立規(guī)則魔法打�。�其次，社交平臺應(yīng)制定并執(zhí)行明確的用戶政策。5月9日，抖音平臺發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等。一旦發(fā)現(xiàn)違規(guī)行為，平臺將嚴(yán)格處罰。

其他平臺也需要明確說明哪些行為是被禁止的，以及違反規(guī)定將面臨的后果。對于違規(guī)用戶，社交平臺需要設(shè)立一個公正而快速的處理機(jī)制，以確保公平對待每一位用戶。

培養(yǎng)意識魔法打敗：再者，社交平臺可以通過提升用戶的網(wǎng)絡(luò)安全意識來防止AI詐騙。通過發(fā)布有關(guān)如何安全使用社交平臺的教育內(nèi)容，教導(dǎo)用戶如何識別和防范AI詐騙，用戶們就可以有效地降低自身成為詐騙受害者的風(fēng)險。

同時，提醒用戶不輕易信任陌生人，以及警告用戶注意保護(hù)個人信息也是重要的措施。

總的來說，社交平臺在防止AI詐騙中扮演著至關(guān)重要的角色。

正如同一把錘子可以用來建房子也可以用來破壞房子，AI技術(shù)為社交平臺帶來更好的用戶體驗，本身是一件好事，關(guān)鍵在于如何使用。平臺需要在多個方面采取積極行動，以確保用戶的網(wǎng)絡(luò)安全，利用自身的技術(shù)能力來削弱AI詐騙產(chǎn)生的弊端。

結(jié)言

AI詐騙無疑是當(dāng)前AI發(fā)展面臨的重大挑戰(zhàn)之一，其影響不容忽視。然而，相信有讀者會認(rèn)為將其視為壓倒AI發(fā)展的“最后一根稻草”或許過于悲觀。事實上，技術(shù)發(fā)展總會伴隨無限可能的延展，也并非危言聳聽。

我們需要認(rèn)識到這一問題，并通過多角度的努力，包括社交平臺的技術(shù)防護(hù)、用戶教育、法律監(jiān)管等途徑，共同應(yīng)對并降低其對社會的潛在風(fēng)險。

AI詐騙的出現(xiàn)確實揭示了AI技術(shù)的一面隱患，但同樣的，我們也可以看到，眾多企業(yè)、研究機(jī)構(gòu)以及監(jiān)管者正努力在探索解決方案，以確保AI技術(shù)的健康發(fā)展和應(yīng)用。

未來，我們將會看到更多的科技創(chuàng)新幫助我們識別和防范AI詐騙，法律監(jiān)管體系將更加完善，社交平臺將提供更好的用戶安全保障。

AI詐騙并不會成為阻礙我們前進(jìn)的“最后一根稻草”，相反，它將成為推動我們繼續(xù)前進(jìn)、發(fā)展更安全、更負(fù)責(zé)任的AI技術(shù)的重要驅(qū)動力。我們要保持樂觀，積極應(yīng)對挑戰(zhàn)，并共同努力創(chuàng)造一個更加安全、可信賴的數(shù)字化社會。

       原文標(biāo)題 : AI詐騙效率高、成本低，“三個魔法”有效防范潛在威脅