不是，現在AI造假都這么離譜了嘛？

前幾天央視曝光了“苗古金貼”騙局，這款產品宣傳的名頭可不小，號稱由傳承“千年秘方”的非遺傳承人制作，而且還有模有樣曬出了“非遺傳承人”證書跟“非遺傳承人”照片，這下子銷量猛漲，登上了電商暢銷榜，總銷量幾十萬，當真是恐怖。

圖片來源：央視新聞

結果媒體深挖下去，傳承人的照片實際上是AI生成的，臉部表情僵硬、手掌有六指、光線美顏到離譜、一眼假。

而所謂的“非遺傳承人”證書乃是機構非法制作，花兩三千塊錢就能夠買到；“苗古金貼”則是由第三方代工廠貼牌生產，成本不到10塊錢。“千年秘方”、“專治頸椎問題”只不過是借助AI來割韭菜的騙局。

圖片來源：央視新聞

AI生成的人物、偽造的品牌證書、貼牌生產的產品，整個事件就魔幻起來了。最后有關部門介入，對相關企業和涉案人立案調查，這波賣假藥的就等著法律的審判吧。

圖片來源：央視新聞

這件事也讓小雷想起以前電視上那位“做出違背祖宗決定”的“神醫”，同樣是各種光環加身，家族傳承得到的藥方，也是公然兜售假藥。

只不過以前的“神醫”是出現在電視，還是真人，現在的“神醫”是出現再互聯網，還是AI生成的，真“查無此人”。

但電視上的“神醫”起碼起碼還有真人出鏡扮演“神醫”，這點“情緒價值”多多少少增加點可信度。

圖片來源：澎湃新聞

哪像“苗古金貼”這么離譜，直接AI生成人物圖片就出來騙，偏偏還有這么多人上當，整個事件都讓小雷覺得不可思議卻又真實發生了，只能說世界就是個草臺班子。

“失控”的AI技術

今年是AI技術蓬勃發展的年份，AI生成圖片、AI生成視頻、AI生成代碼這樣的功能也都被AI企業開發出來了，可以說現階段的AI技術已經進入了一個新階段，

此前央視315晚會就曝光了AI詐騙的違法行為，目前比較常見的主要有AI聲音合成與AI換臉兩種，而且隨著AI技術的不斷進步，成本越來越低，只需花費幾十元，就可定制AI深度合成名人音頻視頻。

圖片來源：央視財經

而且圍繞AI技術還形成了外呼產業鏈，外呼公司使用人工智能機器人撥打營銷電話，機器人不知疲倦，不管白天黑夜都可以撥打營銷電話；而且外呼公司事先用真人錄音進行AI克隆復制成機器人的聲音，這樣一來使得接聽者根本難以分辨電話那頭的究竟是人，還是機器人。

小雷就曾接到這樣的外呼AI電話，兩三分鐘里確實很難聽出來是真人還是AI，后面是發現對面沒有換氣聲，所以才判斷出來是AI，但足以迷惑他人了。

此外據新京報報道，現今圍繞AI技術也形成了一條完整的黑色產業鏈：上游技術負責兜售“AI換臉套餐”，中游則利用非法獲取的個人信息來投放詐騙信息，下游則通過虛擬貨幣、跑分平臺等渠道轉移資金。技術、數據、資金”三位一體“，織了一張AI詐騙的大網，讓許多用戶深陷其中。

這兩年利用AI技術冒充名人實施不法行為事件時有發生，張文宏、靳東、雷軍等名人都深受其害：騙子用“AI靳東”實施詐騙，許多女性消費者上當；張文宏醫生“帶貨”沖上熱搜，但這是AI換臉之后的“張文宏”，稍微懂點AI的小伙伴一眼就能看出來是假的，可還是有不少老年人上當，在“AI張文宏”處買了產品。

此事也讓張文宏醫生無奈，他也曾向媒體透露自己投訴無門，不勝其擾。

圖片來源：央視新聞

雷軍的遭遇更離譜，2024年國慶節期間“雷軍語音包”引熱議，許多以“雷軍”聲音為配音的內容在社交平臺迅速傳播，“銳評”假期堵車、游戲等話題，這其中也出現了不少污言穢語。以至于出現了”國慶7天，被AI雷軍罵了8天”的調侃。

雷軍本人還專門為此發了個視頻，呼吁大家不要再用自己的聲音惡搞。

靳東、雷軍等名人的遭遇也讓我們看到了AI技術濫用的后果，以前講究耳聽為實、眼見為實，但在互聯網AI時代，耳朵聽到的有可能是假的，眼睛看到的也不一定是真實的。

并且利用AI技術圍獵的不僅僅是老年人，即便是年輕人也會掉進坑中。據東南早報報道，福建一公司老板郭某接到了“好友”的視頻通話，對方向郭某借錢，不到十分鐘的時間里郭某就被騙走430萬元，事后才發現電話那頭是好友的“數字替身”——臉是直接AI換的，聲音也是用AI擬聲技術合成的。問題是受害者對此一點警覺都沒有，這就有點可怕了。

難怪有人會擔心，以前還可以通過觀察眼睛、頭發、手指等來辨別是否是AI生成，現在這些伎倆都不太好使了。若是AI再發現下去，怕是真可以達到以假亂真的效果。

給AI技術戴上“緊箍咒”

小雷很喜歡一句話，技術本無善惡之分，有善惡之分的是使用技術的人，這句話就是對AI最好、最準確的描述。AI用得好可以幫助人類提高效率、更好地處理復雜繁多的事務；而當AI技術被用于誤導消費者、實施不法行為之時，平臺與監管者就成為幫兇。

像前面提到的“苗古金貼”騙局，靠著AI生成的圖片就可以堂而皇之出來賣假貨，這其中暴露的正是電商平臺審核制度的缺陷。像電商暢銷榜等榜單，平臺是否有審核過登上榜單的相關店鋪的資質？是否有對店鋪投放的廣告進行排查？如果平臺不重視起來，加強對內容的審核，像“苗古金貼”這種AI生成的假人都能過審的離譜事件，以后只怕會越來越多。

圖片來源：中國質量報

想要斬斷“苗古金貼”、“AI雷軍”等AI技術“惡之花”，還需要監管部門的介入，盡快制訂AI技術行業的統一規范，明確AI生成技術、數字人使用的使用范圍和條件，讓技術能更好地為人類服務。

而對于消費者來說，要懂得保護自己的個人信息，像面部識別、指紋等個人生物信息，能不錄就不錄；身份證號碼、銀行卡號、手機驗證碼等敏感信息也不要隨意泄露給他人，免得悔之晚矣。

此外在涉及到資金、關鍵信息等方面的溝通，還是要留個心眼，通過多種方式來核實對方的真實身份。

畢竟這年頭大家賺錢都不容易，要是被AI技術騙走了，那可真是得不償失了。

總結

還記得幾年前AI技術剛飛速發展的時候，有不少人視AI技術如洪水猛獸，覺得應該將AI扼殺在搖籃里。

小雷看來這種想法還是有失偏頗的，新事物的誕生往往都要經歷一番曲折的發展，才能夠逐漸為世人所接受。

AI也是如此，人類要做的就是引導AI健康發展，讓AI真正為我們所用。而不是在技術泛濫的時代里，還要用AI給人類添堵。

像AI換臉詐騙、AI圖片謀取不當收益等行為肯定是要制止的，除了嚴厲打擊之外，還需要一套全面、完整的行業標準，將AI技術關進籠子里，才能讓AI更好為人類服務。