“全紅嬋帶貨土蜂蜜”“古天樂被游戲代言”“張馨予賣減肥藥”……
當你震驚于又一波名人開始代言土味廣告時，更讓人震驚的事實是，這些廣告大多跟名人本尊無關，而是大規模濫用AI擬聲的商業欺詐。
近日，某短視頻平臺出現“嬋寶小助理”“全妹福利號”等數十個仿冒賬號，循環播放全紅嬋賽后接受采訪的原始畫面。但你稍加細看，很快便會發現端倪——畫面中的全紅嬋仍穿著東京奧運領獎服，口中說出的卻變成了“500單土蜂蜜，16塊9發兩斤”“駝奶粉對三高人群特別好”。
4月29日，全紅嬋父親只能無奈發聲，稱有人用AI偽造全家聲音售賣蜂蜜，他們對此毫無辦法。

AI全紅嬋的帶貨廣告。（圖/社交平臺截圖）

在此之前，相似的AI擬聲騙局早已蔓延——去年12月，“張文宏”講解某品牌蛋白棒的AI假視頻走紅網絡，因其形象與聲音高度逼真，導致大量中老年消費者受騙下單，銷量一度破千；
還有平臺利用AI技術，將古天樂、林峰等港星的肖像、聲音及視頻片段，合成為線上賭博、游戲的代言宣傳片，逼得兩人的經紀公司不得不出面辟謠；
就連小米CEO雷軍的標志性普通話也沒能幸免，從鬼畜視頻里的“Are you OK”，變成了虛假理財廣告里“穩賺不賠”的吆喝……
從明星、學者、運動員到知名企業家，AI假帶貨的受害者名單里還包括靳東、劉曉慶、劉德華、楊天真、倪萍、潘瑋柏、張伯禮……甚至是每一個普通人。而實現這些，最低只需要一塊錢，便可以在二手平臺上買到一套“聲音克隆工具包”。
兩年前，“AI孫燕姿”翻唱《發如雪》引發全網熱議時，人們更多是驚嘆技術的突破。但當任何人都能用App一鍵生成明星帶貨視頻、假帶貨廣告播放量動輒破百萬，事情已經徹底變了味。
正如一位網友所說：“以前擔心照片是P的，現在連聲音都不能信了，科技到底在保護誰？”

AI擬聲帶貨，防不勝防
“減肥不是不吃，而是學會吃。”視頻里，張馨予正對著鏡頭分享減肥心得。當畫面切換到本人身材高挑的寫真照時，這位女明星突然話鋒一轉，開始推薦起某品牌減肥藥：“早上飯后沖一杯，專門提代謝，我就是靠這套方法瘦到106（斤）。”
視頻全程沒有一絲卡頓和機械感，連口型都順暢對上——如果不是當事人親自辟謠，誰都想不到這段視頻里的聲音、表情全是AI偽造。
4月18日，張馨予在社交平臺發文稱，有商家利用AI技術復制其聲音售賣減肥藥，自己從未推薦過任何減肥藥，將追究到底。一位差點付款的寶媽告訴《新周刊》：“視頻我反復看了三遍，要不是看到評論區有人提醒，我肯定要下單了。”

張馨予曾在社交平臺發文辟謠。（圖/張馨予微博截圖）

事實上，同樣的套路已被批量復刻到抖音、快手、B站、小紅書等視頻平臺上。
其中，熱播綜藝成了重災區——在《一路繁花》的吃飯片段里，劉曉慶夾魚的鏡頭被P上“詩諾千君貼”廣告，字幕還打著“提高代謝”的宣傳語。當事人無奈在3月3日回應稱：“畫面是我的臉，聲音像我的聲音，但真不是我”。
而在另一檔綜藝中，女星“應采兒”也表示自己孩子有幾年一直不長個，后來給他弄了元德吉鈣一下長了幾厘米，“謝娜”還在一邊幫腔：“楊紫跟我說過。” 打開相關搜索欄，各類保健品、減肥藥的“代言人”名單堪稱全明星陣容，就連張伯禮院士都得出來為某“國貨品牌”站臺……

AI假帶貨。（圖/社交平臺截圖）

“這些視頻就像流水線生產的贗品，把綜藝片段當原材料，用AI改字幕、換配音，最后貼上商品鏈接。”某直播從業者告訴《新周刊》，“本質是低成本引流起號，還能規避代言費用”。
AI擬聲熱度四起背后，也衍生出一條暴利的灰色產業鏈。在某電商平臺搜索“AI配音”服務，有商家直言：“明星聲音200元一條，素人50元，包教包會”。
“AI李鬼”猖獗，受害者名單在不斷加長。明星們在面對肖像權、名譽權雙重侵害的同時，消費者也更容易誤購劣質商品。
據《咸寧日報》報道，AI擬聲帶貨的商品存在資質不明、廠商不清等問題，涉事店鋪多為2024年新注冊賬號，宣傳封面、產品包裝、文案說辭幾乎一樣。而本該承擔審核責任的平臺，也沒有提示“該畫面可能由AI生成，請注意鑒別”，客觀上成為了“假帶貨”風氣的推手。

誰偷走了我們的聲音？
我們正在進入一個“耳聽為虛”的時代。
今年兩會期間，企業家雷軍自稱成了AI擬聲的受害者。在無數短視頻切片里，“假雷軍”用標志性的湖北普通話吐槽堵車、調侃調休，逼真到網友集體@雷軍本人：“這是不是你小號？”。
除了偽造公眾人物帶貨營銷，AI換臉、擬聲技術還被用于普通人的詐騙。前不久，有騙子用AI合成靳東的聲音陪老人聊天，騙走近百萬養老錢。而據央視新聞報道，福建一位公司老板和“合作伙伴”視頻通話10分鐘，看著熟悉的樣貌、聽著熟悉的聲音，當場轉了430萬，結果對方卻是AI合成的假人。

某AI擬聲平臺。（圖/社交平臺截圖）

這些以假亂真的聲音到底從何而來？
一名長期觀察人工智能的學者曾向《新周刊》解釋，只需采集聲音中的頻率、音色、聲調等關鍵特征，配合語速和情感參數，即使少量樣本也能在幾秒內完成克隆。
至于聲音樣本的采集方式更是多樣——可能是接到的推銷電話，可能是視頻網站上的公開演講，甚至是網購時客服的“求好評”回電。
另一方面，AI擬聲應用也從未像今天這樣唾手可得。“現在實施AI換聲詐騙的技術門檻，相當于在手機里安裝一個修圖App。而且換聲、換臉的逼真度會越來越好，普通用戶會愈來愈難以鑒別或區分。”上述專家稱。
在手機應用商店里，“AI配音”相關App有數十款，下載量最高超千萬次。一款AI擬聲App的客服人員就曾表示，花198元就能解鎖付費會員，對著鏡頭說幾遍“12345”，AI就會根據聲音生成各類內容的出鏡口播視頻，且錄入名人聲音不需要提供任何授權證明。
互聯網上的AI聲音克隆攻略也隨處可見。光是在某社交平臺上，有關“AI合成明星聲音軟件”的帖子就多達4w+條。二手交易App上，一次AI聲音克隆更是低至10塊以內，這意味任何人都可以低成本地獲得自己想要的AI明星聲音，其中，還有博主用自己孩子的聲音素材，合成了“AI版新聞聯播開場白”。 “假如AI換臉擬聲被過度濫用，或許將來某一天，我們不得不在發布真實錄制內容時進行聲明，強調內容的真實性。整個社會對真實性的鑒別成本將會非常高，必須采取辦法避免該技術泛濫成災。”中國傳媒大學副教授張鸝在接受《瀟湘晨報》采訪時曾表示。
目前，國內正在立法上重視此類問題。2024年4月，北京互聯網法院宣判全國首例“AI聲音侵權案”，首次明確自然人聲音權益的保護范圍可及于AI生成內容。此外，類似“白名單制度”也會在9月1日上線，讓以往難以辨別的AI作品“持證上崗”。
然而，這行寫著“內容為AI技術制作，請謹慎甄別”的半透明小字，實際效果如何仍需打個問號。先不論那些螞蟻大小的水印，戴著老花鏡的中老年人能不能看清。大部分人連AI是啥都搞不懂，刷到AI換臉的養生專家視頻時，只會納悶：“這視頻里的人明明在動，咋會是假的？”
歸根結底，無論是AI擬聲、換臉還是頻頻爆出的AI假新聞，保持懷疑與求證，或許才是我們應對虛假內容的最后堡壘。畢竟，被AI偷走聲音的，全紅嬋們不是第一個，也不會是最后一個。
編輯 DR 運營 鹽浴鹽