“非遺傳承人”是AI生成的？

證書是違規(guī)炮制的？

產(chǎn)品療效全靠編？

——近日曝光的

電商熱銷產(chǎn)品“苗古金貼”造假事件

揭開了AI技術(shù)濫用的一角

據(jù)了解，“苗古金貼”號稱由傳承“千年秘方”的非遺傳承人制作專門解決膝蓋、頸椎等出現(xiàn)的問題，有電商平臺數(shù)據(jù)顯示該產(chǎn)品列“熱敷貼回購榜”第一名，在某平臺旗艦店已經(jīng)銷售10萬件以上。然而，央廣網(wǎng)記者深入調(diào)查發(fā)現(xiàn)該“非遺傳承人”的照片實為AI生成，所謂“千年秘方”實為代工產(chǎn)品，假非遺傳承人證書給錢就能違規(guī)炮制辦。

此“苗古金貼”AI造假事件在網(wǎng)上引發(fā)熱議，有人留言“一看就是假的，AI合成的一眼便能識別出”，也有很多人說已經(jīng)“中招”被騙，而被騙購買這類膏藥貼的，大多數(shù)是老年人或身受病痛折磨的群體。

在這之中可以看到，部分老年人對“非遺傳承人”“榮譽證書”等權(quán)威的敬畏、疼痛患者對消除病痛的迫切需要，往往會讓他們被造假者精準(zhǔn)利用。AI生成的“大師”滿足了大家對“官方認(rèn)證”的信任；偽造的“非遺”證書契合著潛意識里對紅頭文件的信賴；而膏藥、磁療器等虛假宣傳的藥效，則能緩解他們對病痛的不安。

AI技術(shù)濫用下的造假產(chǎn)業(yè)變得格外“高效”。過去偽造一個“大師”需要雇演員、搭場景，如今只需輸入指令，AI便能生成笑容慈祥的“非遺傳承人”畫像，甚至根據(jù)老年人審美偏好，自動添加民族服裝、銀發(fā)等元素；偽造證書也不再需要PS高手，智能模板庫十分鐘就能炮制帶防偽編號的“權(quán)威認(rèn)證”。

△照片中的手指畸形、關(guān)節(jié)比例失調(diào)，正是AI生成圖像常有的特征。圖片來源于網(wǎng)絡(luò)

據(jù)相關(guān)新聞報道，日前，市場監(jiān)管總局印發(fā)《關(guān)于維護廣告市場秩序 營造良好消費環(huán)境的通知》，部署開展廣告市場秩序整治工作。通知明確，將嚴(yán)查“神醫(yī)”“神藥”“人工智能冒充專家”等多類違法廣告。

融融觀點

如今，年輕人在辨別AI真假時都無法做到完全正確，甚至也因此受騙，在面對“AI千年秘方”這類“技術(shù)碾壓”時，又如何要求老年人等在高速發(fā)展的信息時代里的弱勢群體能夠完美識破騙局？

技術(shù)本無善惡，AI可以成為高效助手，也會被利用成為造假工具。放任AI淪為造假工具，不僅會讓“銀發(fā)族”等群體在信息斷崖邊受到傷害，還會讓大眾陷入智能時代的又一場消費困境，暴露出了目前應(yīng)對人工智能全面高速發(fā)展下各方面的滯后。

治理AI亂象需從技術(shù)、平臺、法律等多方面重構(gòu)防線，讓技術(shù)敬畏人性。

在“AI騙局”中，保護每一位消費者，從來不是“教大家識別AI”那么簡單。當(dāng)黑產(chǎn)用算法計算人性弱點，是否能讓技術(shù)進步“等一等”追不上的人群，讓法治監(jiān)管跑得比造假代碼更快，我們該用怎樣的溫度抵御技術(shù)利刃？值得大家深思。

閱讀多一點

針對中老年人

簡單易行的騙局識別方法

一看證件照：AI生成的照片常有破綻：臉部像過度美顏般光滑，手指可能多一根或少關(guān)節(jié)，背景出現(xiàn)扭曲或重復(fù)花紋。遇到這類奇怪的照片就要提高警惕。

二查官方信息：真非遺傳承人可以在“中國非物質(zhì)文化遺產(chǎn)網(wǎng)”查到。如果商家自稱有認(rèn)證，就在這個官網(wǎng)搜索名字，同時查看發(fā)證單位是否在政府公布的合法機構(gòu)名單里。

三防夸張宣傳：遇到“千年秘方”“祖?zhèn)鹘^技”等夸張廣告詞，先別急著下單。最好打電話問問子女，多問幾個人更保險。

四用科技反制：子女可以教父母用手機長按圖片選擇“識圖搜索”，如果網(wǎng)上出現(xiàn)多個同名不同臉的大師，肯定是假的；購買前在電商平臺仔細查看店鋪資質(zhì)。

重要提醒：遇到要求轉(zhuǎn)賬到個人賬戶、催促立刻付款的情況，多半是騙局。正規(guī)產(chǎn)品都能開發(fā)票，支持七天無理由退貨。不輕信完美故事、不著急付錢、多找家人商量。

記者：武文雯

編輯：陳絲華

值周：楊丹妮 張輝

主編：李勝