訂閱
糾錯
加入自媒體

抖音對AIGC亮明牌!AI虛擬人帶貨或?qū)⒚媾R最大危機...

2023-12-28 09:04
新火種
關(guān)注

作者:小巖

編輯:彩云

12月19日,抖音官方發(fā)布了一則重要公告,宣布將嚴厲打擊包括AIGC在內(nèi)的6種新型違規(guī)行為。所謂AIGC,指的就是當下發(fā)展勢頭正勁的生成式人工智能。之所以要打擊AIGC,其實是為了重點打擊新型養(yǎng)號行為。

抖音志在打擊黑灰產(chǎn),而AIGC造假成了繞不過去的“路障”。

事實上,抖音此次重拳出擊的主要目的是打擊黑灰產(chǎn)業(yè)違規(guī)“漲粉養(yǎng)號”的行為。因為抖音在日常巡查中發(fā)現(xiàn),很多黑灰產(chǎn)組織正視圖通過AIGC造假,盜取他人直播內(nèi)容并加以剪輯,以官方名義公布培訓課程等方式,批量發(fā)布低質(zhì)量的違法違規(guī)內(nèi)容,并試圖以此達到快速漲粉,養(yǎng)號的目的。

其中,利用AIGC技術(shù)創(chuàng)建虛擬人物,使其冒充真人進行直播便是其中最典型,最常見的一個。如果你有刷短視頻的習慣,就一定曾刷到過虛擬人在直播或是在說話的內(nèi)容。他們或是仿照真人主播一樣進行虛擬帶貨,或是在那里大談特談情感雞湯,知識科普,理財致富等方面的內(nèi)容。

相較于真人主播實打?qū)嵉倪M行直播帶貨或者發(fā)布內(nèi)容,用虛擬人來完成這些工作就顯得輕松許多。試想一下,真人主播很難進行時長為8-10小時的直播,這個工作強度高負荷到難以想象,但虛擬人不存在無法適應(yīng)高強度工作的問題。即便不進行流量投放,單靠拉長直播時長這一點,也足以完成養(yǎng)號漲粉,為粉絲進行人群畫像,從而獲得更精準的新客的目的。即便虛擬人的直播實績沒有真人理想,即便虛擬人的直播間只有幾十人或十幾人,也依然不乏支付訂單和評論區(qū)留言的出現(xiàn)。

抖音曾出手堵AIGC的漏洞:顯著標識,后果自負。

事實上,這并非抖音第一次對AIGC提出規(guī)范和要求。

早在今年5月9日,抖音官方曾發(fā)布消息,首次對AIGC提出平臺規(guī)范和行業(yè)倡議。敲重點來說,其中有兩方面的內(nèi)容很關(guān)鍵,也格外引發(fā)關(guān)注。一是對AIGC內(nèi)容的標注,二是虛擬人的注冊認證。

先來說說對AIGC的標注,簡單來說就是要“貼水印”。

抖音在相關(guān)規(guī)范里明確表示,包括AI寫作,AI文字編輯,AI語音合成在內(nèi)的,有可能造成混淆的深度合成服務(wù),都要明確的打上水印,做出標注。不管你使用的是今年大火的ChatGPT,Midjourney,國內(nèi)的文心一格,文心一言等文字和圖片生成產(chǎn)品,還是魔音工坊等語音生成類產(chǎn)品,都在“做標注”的范疇里。對于標識方法,簡單來說,就是要在各類圖片和視頻文件的“左上角”打上“AI生成”的字樣,以及使用的生成工具的名稱與公司名水印。

對于抖音要求的“貼水印”,多數(shù)服務(wù)商的反應(yīng)較為樂觀,普遍覺得加上水印不會影響內(nèi)容的傳播,反而能達到以正視聽,確保真實性的目的。很多人認為“這是非常正確的決定”,也必將會在未來“成為常態(tài)”。

相比于AIGC內(nèi)容的標識,虛擬人的情況就復雜了許多。

彼時,抖音在公告中明確提出,支持虛擬人發(fā)展,但虛擬人需要認證,并且禁止完全無人的AI直播。根據(jù)用途,抖音上的虛擬人可為兩類,一類是“娛樂型”的虛擬主播;一類則是功能型的虛擬人,最直觀的就是那些需要完成直播帶貨目標的虛擬人。

不過,對于虛擬人直播帶貨的行為,用戶們并不算太買賬。觀看直播的用戶們會覺得與真人主播相比,虛擬人的直播內(nèi)容質(zhì)量較差,語言木訥,毫無新意可言。對于廣大商家來說,利用虛擬人帶貨也并非上上簽的選擇,虛擬人不僅很難完成KPI,實現(xiàn)創(chuàng)收,還容易被平臺判處違規(guī)。

事情的發(fā)展的確如此。時隔半年之后,抖音官方提高了門檻和要求,直接提出了“禁止AIGC造假”的要求,向AIGC亮出來了明牌。算是進一步明確了抖音官方的立場和屬性。

抖音率先雷霆出擊,或許會成為行業(yè)的風向標。

ChatGPT打開了人工智能的新大門,讓我們見識到了人工智能的強大,與此同時,相應(yīng)的潘多拉魔盒隨之開啟。

隨著技術(shù)的不斷成熟,AIGC逐步從概念階段走向?qū)嶋H落地階段,爭議和風險也就應(yīng)運而生。一段時間以來,關(guān)于人工智能生成內(nèi)容以假亂真,數(shù)據(jù)泄露以及侵權(quán)的案例頻頻出現(xiàn),也就進一步放大了人工智能可能社會造成的危險。

如今的AIGC在短視頻賽道被廣泛應(yīng)用,創(chuàng)作者,主播,用戶,商家,廣告主等平臺生態(tài)參與者無一例外,都會涉及到AIGC。這也是抖音率先出擊,出臺相應(yīng)的行業(yè)規(guī)范的重要原因。

監(jiān)管和創(chuàng)新技術(shù),創(chuàng)新模式之間永遠存在著“跟”和“被跟”的關(guān)系。一定會先有技術(shù),然后產(chǎn)生風險,繼而產(chǎn)生規(guī)范的必要。有了監(jiān)管,行業(yè)的發(fā)展會朝著更有利的方向發(fā)展。

當然,規(guī)范的出臺并不意味著一勞永逸。在執(zhí)行監(jiān)管的過程中,我們?nèi)匀粫龅綄嶋H上的問題。譬如該如何進行具體的責任界定?該如何進行取證?但無論如何,對于人工智能的監(jiān)管已經(jīng)提上日程了,這是十分值得欣慰的。

       原文標題 : 新火種AI|抖音對AIGC亮明牌!AI虛擬人帶貨或?qū)⒚媾R最大危機...

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號