文 | 胡煒（新京報傳媒研究院）

全紅嬋作為當下世界頂尖的跳水運動員，一次又一次為國爭光，再加上其鮮明個性，受到公眾喜愛，在社交平臺人氣頗高，有些人就動起了歪腦筋。

近日，名為“嬋寶小助理”“全妹福利號”等多個賬號，通過AI偽造全紅嬋及家人的聲音和形象，生成虛假 視頻內容， 在社交平臺發布并 帶貨 。

4月29日，全紅嬋父親無奈發聲，那些帶貨蜂蜜的視頻全是AI偽造的，他們一家人根本沒有參與過。“ 幫我辟謠一下，我沒有賣這東西，什么蜂蜜才十幾塊錢一斤，拿糖來搞都搞不到。 ” 一句簡單的話語，道出了 滿滿的 無奈與憤怒。

01

短視頻新玩法之禍

近年來， 隨著AI技術的發展， 換臉擬聲已成為簡單易操作的“低門檻”技術，只需擁有聲音與照片等“素材”，借助軟件即可瞬間實現“AI克隆” 。 在短視頻 平臺， 存在 大量 運用AI換臉技術創作的短視頻，不僅滿足了用戶的娛樂需求，也為創作者帶來了大量的流量和關注，成為了短視頻創作的一種“新玩法”。

但是慢慢地這種技術被一些不法分子盯上，成為了他們制造虛假內容、騙取利益的工具。他們利用AI換臉技術，將公眾人物的臉合成到帶貨視頻中，借助公眾人物的知名度和影響力，誘導消費者購買產品，從而謀取利益。“全紅嬋帶貨蜂蜜”的視頻，就是這種惡劣行為的典型代表。

不僅是全紅嬋，靳東、劉曉慶、雷軍等眾多公眾人物也都遭遇過類似的AI造假， 成為受害者 。劉曉慶曾驚訝地發現微信視頻號里有許多 AI 生成的視頻在假冒她，張馨予則發文怒斥有商家利用AI技術復制其聲音售賣減肥藥。

▲ 網絡截屏

“紅嬋帶貨蜂蜜”這類虛假視頻的出現，帶來的危害是多方面的，從個人權益到市場秩序，再到網絡生態，無一幸免。

對于公眾人物而言，這嚴重侵犯了他們的肖像權、名譽權和隱私權，同時也面臨著形象受損的風險，他們的聲譽可能在一夜之間因為這些虛假視頻而受到嚴重打擊。

虛假帶貨視頻還對消費者的行為造成嚴重誤導，損害了消費者的合法權益。許多消費者是出于對全紅嬋等公眾人物的喜愛和信任才購買產品的，但他們收到的產品往往與視頻宣傳不符，質量參差不齊，甚至可能存在安全隱患，嚴重影響了消費者的購物體驗和對市場的信心。

從整個網絡平臺和市場生態來說，虛假帶貨視頻破壞了公平競爭的市場秩序，擾亂了網絡平臺的正常運營。這些不法分子通過不正當手段獲取流量和利益，擠壓了正規商家和創作者的生存空間，導致市場劣幣驅逐良幣。同時，大量虛假視頻的存在，也降低了平臺的內容質量和用戶體驗，讓用戶對平臺產生不滿，影響平臺的長期發展。

02

平臺責無旁貸

平臺作為流量經濟的重要一環，不僅僅是傳播渠道，也是受益者，更肩負著審核監管的義務。

河南澤槿律師事務所主任付建在接受媒體采訪時表示，“平臺有權依據《互聯網信息服務管理辦法》《電子商務法》以及平臺規則履行監管義務，對違法商家采取封禁賬號、限流等處理措施。 如果未及時采取合理措施導致損害擴大的，對擴大部分與不法商家承擔連帶責任。 ”

面對AI虛假帶貨視頻的泛濫，平臺需要積極探索應對之策，力求從源頭上遏制這種不良現象的蔓延，否則，將會失去用戶的信任，最終影響整個平臺經濟的健康發展。

平臺當務之急是提升技術手段，進一步加強對內容的審核力度，確保每一個違規視頻都不能逃過監管。 可嘗試通過升級其智能審核系統，利用更先進的AI圖像識別和語音識別技術，對上傳的視頻進行全方位掃描，一旦檢測到視頻中存在AI換臉、虛假宣傳等違規行為，立即進行攔截和處理，用“魔法打敗魔法”。

此外，平臺還可以建立用戶舉報機制，鼓勵用戶積極參與監督，對于舉報屬實的用戶給予一定的獎勵，形成全民參與的監督氛圍。比如，當用戶發現某個全紅嬋帶貨蜂蜜的視頻存在異常時，可以點擊舉報按鈕，協助平臺加強對虛假違規視頻的發現和處理。

03

全方位治理

面對網絡上虛假帶貨視頻的泛濫，社會各界需要聯動起來，積極探索應對之策。

今年兩會期間，全國人大代表、小米集團創始人雷軍建議“加強‘AI換臉擬聲’違法侵權治理”，全國政協委員靳東更是建議AI換臉立法。

中央網信辦也重拳出擊，自4月15日開啟為期3個月的“清朗·整治短視頻領域惡意營銷亂象”專項行動，重點聚焦的問題之一就有涉及“利用‘換臉’‘換聲’‘P圖’等手段編造不實內容”問題。

“全紅嬋帶貨蜂蜜”事件既是技術濫用的警示錄，更是重建數字倫理的動員令。當AI能完美復刻奧運冠軍的每個微笑和褶皺，當親情和愛重成為流量游戲的籌碼，我們不得不重新審視數字時代對“真實”的定義。在這場“真實保衛戰”中，守護的不僅是明星肖像權，更是我們每一個人在數字文明中安身立命的根本。

校對 | 李立軍

主編推薦