文 | 柳早（媒體人）

什么？“張文宏”開始帶貨了？

最近有網友向媒體發來一段視頻詢問“張文宏是不是帶貨了？”在賣一種蛋白棒，家里的老人信以為真已經下單，還轉發了很多群。

據媒體報道，在名為“般畫234”的賬號視頻中，“張文宏”反復介紹著一種產品，口型是他的，聲音也是他的。目前，這段偽造的視頻在賬號內已不可見。

如果是辨別能力強的觀眾，不難看出這是AI深度合成的視頻。可是對很多老年消費者或是對“互聯網生態”不那么了解的人來說，這依然能起到以假亂真的效果。比如該賬號的商品櫥窗截圖顯示，這款蛋白棒已售出1266件，可見“中招”的消費者并不少。

這種現象也并非罕見，除了張文宏之外，不少名人都深受生成AI仿冒之苦。比如此前引發眾多關注的“假靳東”事件，騙子用AI偽造靳東的形象，以“談戀愛”“拍戲”為名，大肆詐騙老人錢財；此外，明星藝人劉德華、黃百鳴，胖東來創始人于東來，小米董事長雷軍等，都曾就自己被AI仿造發布過聲明。

這種現象之所以猖獗，其實和追責困難有關，這點從張文宏的大吐苦水就能看出來。有記者聯系了張文宏，“這樣的賣貨賬號不止一個，且一直不斷在變，自己多次向平臺投訴但屢禁不絕。”他稱自己也曾考慮過報警，但對方看不見摸不到，就像幽靈一般難以描述，“像蝗災一樣，一次次害人”，只能寄希望于相關部門加強監管。

事實上這正是問題的癥結所在，偽造名人的賬號，由于數量眾多、分布廣泛，讓逐個進行維權變得近乎不可能。而且這些賬號還學會了一大堆伎倆，比如趁著深夜把帶貨視頻放出，到了早上再把視頻屏蔽掉，這樣買的人就投訴無門，也很難被發現。

這種亂象顯然不應該再持續。其實現在已經不乏相關規定對此進行約束，《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等，都在內容審核、信息標識方面對生成AI的規范使用提出了要求。后者還特別強調，使用AI生成內容不得侵害他人肖像權。

但快速發展的AI產業造成了相關信息的爆炸式增長，客觀上給AI信息甄別帶來了困難。據《2024人工智能安全報告》顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長了1000%，可見問題的嚴峻。

因此，治理也應當提速，跟上產業發展的步伐。值得注意的是，今年9月，國家網信辦發布《人工智能生成合成內容標識辦法（征求意見稿）》，明確要求AI生成合成的內容要在顯著位置作出標識，這也是進一步提出的強制性規范。

而問題的關鍵還在于執行，尤其是生成AI的主要使用場景——短視頻平臺，更要主動承擔主體責任。對于生成AI內容應當進行更加嚴格的審核，并定期進行大規模內容篩查，如發現違規使用場景，就應當對賬號作出嚴肅處理。

同時也應當對被侵權人和消費者維權提供更大的支持。比如張文宏抱怨“對方看不見摸不到”，這種現象就應當引起重視。當被侵權人或消費者向平臺提出質疑，平臺應當進行協助，提供相應的信息，幫助被侵權人和消費者鎖定賬號背后的實體或個人，由此進入賠償或司法程序。

無論如何，不能任由AI造假泛濫成災。從新聞也能看到，被造假的名人只能“發聲明”，上當的消費者只能“認倒霉”，這種無力被動的狀況必須改變。對此，無論是相關部門還是互聯網平臺，都需要進一步發力，提高信息篩查能力，讓侵權者付出沉重代價，也讓AI的技術發展始終保持在法治軌道之內。

來源 ｜新京報評論

編輯｜遲道華 校對 ｜ 楊利

值班編輯 | 王可

主編推薦