5月18日上午10點，鄧超、孫儷工作室同時發(fā)聲打假：

工作室近日發(fā)現(xiàn)有部分網(wǎng)絡用戶在自媒體平臺發(fā)布與鄧超先生/孫儷女士相關的虛假廣告宣傳視頻，此類虛假視頻通過技術合成的方式，把鄧超先生的形象和聲音制作成虛假采訪視頻為某些商家的產(chǎn)品進行推薦。

本工作室在此嚴正聲明：凡此類自媒體賬戶所發(fā)布的產(chǎn)品推薦視頻均為虛假信息，請網(wǎng)友一定不要相信，避免上當受騙！！

同時警告此類虛假信息的發(fā)布者及傳播者，立即刪除全部虛假廣告視頻，工作室已保全相關侵權(quán)內(nèi)容，將通過法律途徑嚴格追究相關責任方的法律責任！

AI快速起號引流形成灰色產(chǎn)業(yè)鏈

“生成式人工智能帶來了深刻的技術變革，我們要積極地擁抱新技術，也要及時認識到并改善技術使用過程中出現(xiàn)的問題。”有業(yè)內(nèi)人士曾向南都記者說道。

早在2020年的“假靳東”事件，暴露了視頻合成技術的風險與隱憂。

此前，據(jù)南方都市報報道，在多家短視頻平臺上存在不少“假靳東”賬號。此類賬號皆以靳東照片為頭像，大多以“靳·東”“小東”“東哥哥”“賀函”等為昵稱，剪輯靳東照片、影視片段做再配音處理。明星效應之下騙取點贊與粉絲后，有賬號甚至開始直播帶貨變現(xiàn)。

實際上，通過AI造謠等手段吸粉引流變現(xiàn)的亂象被多次曝光。2024年5月，南都記者調(diào)查發(fā)現(xiàn)，給出相應指令后，一些AI工具就能快速批量擴寫出不同的故事文案，有的每個月會員費只要99元，充值一年還能打五折。

經(jīng)實測，點進一個“AI文案速寫”的小程序中，在對話框內(nèi)輸入創(chuàng)作有關“搶劫”“霸凌”“火災”3個主題內(nèi)容的詳細指令，就快速得到3段被擴寫至100字左右不同故事情節(jié)的文案，其中還有一些生動的細節(jié)。

除了文字，一些犯罪分子還通過AI編輯視頻、圖片等以假亂真，混淆視聽。

湖南一網(wǎng)民曾發(fā)布一條帶有警徽的《懸賞通告》，稱長沙天心區(qū)發(fā)生重大刑事案件，擬向公眾有償征集線索。原來，這張《懸賞通告》系AI偽造而成，目的是吸粉引流。該網(wǎng)民最終受到警方處罰。

根據(jù)警方披露案例，從組織結(jié)構(gòu)上看，造謠“生意”大致分兩種類型：個人運營自媒體造謠賬號，吸粉引流變現(xiàn)；亦有團伙作案，批量運營自媒體賬號，大規(guī)模散布謠言，例如有不法分子成立MCN機構(gòu)運營數(shù)百個賬號，長期組織公司人員造謠引流。

四部門要求對AI生成內(nèi)容進行標識

據(jù)南方都市報報道，北京郵電大學互聯(lián)網(wǎng)治理與法律研究中心執(zhí)行主任謝永江表示，普通網(wǎng)民也要有一定的網(wǎng)絡安全素養(yǎng)，不要輕信網(wǎng)絡信息，最好是通過權(quán)威媒體等去考證。

“現(xiàn)在造謠造假的成本非常低，還有一些可以免費使用的AI工具。”謝永江介紹，網(wǎng)絡虛假信息是長期以來的頑疾，即使在沒有AI的時代，網(wǎng)上也有人為的各種虛假信息在傳播，“AI只是讓這種傳播變得更加便捷”。

他指出，平臺方要肩負起審核責任，且掌握相應的鑒別技術，對AI生成的圖片、視頻進行標注。“信息發(fā)布也要遵守底線。不能去誤導公眾，損害他人合法權(quán)益或擾亂社會公共秩序。平臺發(fā)現(xiàn)后就應該及時處理，不能放任虛假信息帶來負面影響。”

記者注意到，近期，四部門聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標識辦法》，要求對人工智能生成合成內(nèi)容進行顯示標識和隱式標識。新規(guī)自9月1日起施行。為防范AI技術濫用風險，有關部門正在行動。

來源丨南方都市報

SFC

本期編輯 黎雨桐

21君薦讀