回復電商領取《1000份電商運營干貨案例》

作者 | 張逸 報道 | TOP電商

全紅嬋和她的家人，被AI“偷”走了聲音。

這不是科幻電影里的橋段，而是真實發生在短視頻平臺上的現實。

最近，社交平臺上突然冒出一批“嬋寶小助理”“全妹福利號”賬號，它們利用AI合成全紅嬋和她家人的聲音帶貨。

視頻里，聲音和畫面配合得天衣無縫，連口音都模仿得惟妙惟肖，用幾乎一模一樣的臺詞，聲情并茂地講述“家里要蓋新房”，順便掛上駱駝奶粉、土雞蛋、洗衣液等商品鏈接。

圖源：新京報

不少網友信以為真，紛紛下單：“支持全紅嬋，值得購買。”

可真相呢？全紅嬋家到底有沒有蓋房？沒人說得清。

當地政府和所謂的“承建方”至今未給出明確回應。

而全紅嬋的父親則的無奈向媒體求助：“幫我辟謠一下，我沒有賣這東西，什么蜂蜜才十幾塊錢一斤，拿糖來搞都搞不到。”

其實，全紅嬋和她家人的聲音被盯上，早有伏筆。

去年，全紅嬋媽媽在接受采訪時提過想在村里蓋房，讓孩子們回家有地方住。

這本是一句樸素的愿望，卻被別有用心者捕捉成了“流量密碼”。

諷刺的是，全紅嬋的大哥全進華本就是一名三農主播，平時在短視頻平臺賣湛江菠蘿。

他曾在采訪中坦言，做直播是為了幫村里解決水果滯銷問題，“雖然流量不大，但能幫一點是一點”。

圖源：九派新聞

可如今，這份樸實的助農初心，卻被假賬號利用，賣著毫不相干的高利潤商品，賺得盆滿缽滿。

而真正堅守助農事業的全家人，反而因正經帶貨農產品，陷入“蹭妹妹流量”的爭議。

更可怕的是，AI詐騙的門檻越來越低。

有商家 就 號稱“10秒克隆聲音，3分鐘生成視頻”，甚至能模仿方言和語氣詞。

甚至有黑產從業者公開叫賣“明星聲音包”，古天樂、劉德華等港星的聲音被明碼標價，買家付款后就能隨意編輯臺詞，做成帶貨視頻。

事實上，全紅嬋家人的遭遇，不過是AI詐騙術的冰山一角。

三個月前，就有網友在微博上喊話劉曉慶：“寶寶我看到一個微信視頻號發了很多你的視頻，好像是AI生成的，是假冒的吧？很多話不是你說的。”

劉曉慶點開視頻一看，畫面是自己的臉，聲音像極了自己，但臺詞卻是一串從未說過的廣告詞。

這一幕把劉曉慶看蒙了：“天哪，我點進去看了一下，畫面是我，聲音很像我，但不是我！這是怎么做到的？”

圖源：微博

張馨予的AI聲音則被塞進減肥藥廣告，氣得本尊在微博喊話： “我覺得這樣的行為很惡劣。在此說明我從來沒有推薦過任何減肥藥，有商家利用Ai技術非法剪輯投放廣告，我一定追究到底。”

就連雷軍都未能逃過一劫。

之前，在短視頻平臺上就出現了大量的“雷軍AI配音”惡搞視頻，涉及堵車、調休、游戲等熱門話題。

對此，雷軍在兩會期間呼吁盡快出臺相關治理措施：“一開始我還覺得這是網民喜聞樂見的一種方式，但是隨著內容越來越多，網友們也都在投訴。”

圖源：抖音

同樣，靳東也回應了AI換臉導致的詐騙問題：“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣，希望能建立更好的規則。”

經過多位大佬的發聲，國家注意到了這種亂象，并且祭出了“緊箍咒”。

今年3月，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布了《人工智能生成合成內容標識辦法》，該法案將于9月1日正式實施。

屆時，所有AI生成的內容必須打上“數字水印”，就像給虛擬世界里的每個作品發一張“身份證”。

平臺也被要求用更強大的AI識別技術，給這些內容貼上“我是假的”的標簽，否則可能要和騙子一起“背鍋”。

圖源：微博

不過，這些“緊箍咒”真能鎮住妖魔鬼怪嗎？

現實恐怕并不樂觀。

有技術專家就指出，就算平臺要求必須給AI生成的內容標注“身份”，黑產團伙也能通過“深度偽造”技術躲開檢測，甚至連標注本身都能偽造。

更麻煩的是，很多虛假視頻會通過小眾社交平臺或者私下的小圈子（比如微信群、私人賬號）傳播，這些地方監管很難顧及到。

在筆者看來，在這場AI攻防戰中，最無奈的還是普通消費者。

一位被騙買下“全紅嬋家同款洗衣液”的網友自嘲：“我以為支持的是奧運冠軍的家人，結果支持了騙子的年終獎。”

類似的聲音不在少數，有人因相信“AI神醫”耽誤正規治療，有人被假明星帶貨坑光積蓄。

法律維權？多數人都會嫌麻煩；找平臺投訴？結果往往都是石沉大海。

最終，大多數人只能吃一塹長一智，順便對網絡世界多一分警惕。

不過，魔高一尺，終究需要道高一丈。

平臺能否用AI實時監控可疑賬號？監管部門能否建立跨平臺黑名單？消費者能否養成“先查證再下單”的習慣？

這些問題沒有標準答案，但至少，全紅嬋家人的遭遇給所有人提了個醒：在這個AI能以假亂真的時代，我們的善意和信任，必須帶點鋒芒。

畢竟，技術本無罪，人心需有尺。

行業資訊、案例資料、運營干貨，精彩不停

【添加備注：進群】

最新電商行業資訊，盡在【Top電商】↓↓↓