文 | 京畿部長

12月15日，“微信珊瑚安全”發布公告稱：近期網絡存在利用AI技術仿冒名人進行不當營銷的現象。結合用戶舉報、日常巡查等線索，從速從嚴打擊了一批利用AI仿冒知名人士進行不當營銷、惡意博取流量的違規行為，并針對相關情況開展專項治理，關閉相關違規賬號。后期微信將持續對“利用AI仿冒知名人士進行營銷宣傳”等違規行為增加打擊力度，進一步提升技術治理能力和水平，維護良好生態。

在如今的短視頻平臺，不論配音還是視頻，AI 的身影無處不在。它一會是孫悟空，一會是熹妃甄嬛，一會又是名偵探柯南，更有甚者一些知名公眾人物的聲音和形象也在其中，讓人真假難分，是非不辨，不少網友對此叫苦不迭。這些沒有邊界感的AI，在互聯網的世界里橫沖直撞。如果這些AI僅僅是用作娛樂用途也就罷了。偏偏有一些人動起了歪心思，打起了小算盤，用AI合成一些知名人物的聲音和視頻，公然開始進行營銷活動，致使一部分用戶基于信任而上當受騙。雖然有不少用戶向平臺投訴，但這種情況依舊屢禁不止，即使該侵權行為求助警方，但又因為對方看不見、摸不著，經常更換賬號，無法追蹤到行為主體，于是不得不就此作罷。

俗話說有圖有真相。但隨著AI的大行其道，現在變成了有圖有視頻沒真相。AI技術開放以后，不斷被濫用，而“反AI監管”制度卻仍未成熟，使得AI逐漸突破藩籬，造假泛濫成災，毫無疑問這是信息傳播的災難，如果任由發展不加以監管，不僅會對個人隱私、知識版權、司法取證和消費者權益等多方面帶來影響，更會引發社會性信任危機。不可否認，AI的出現是社會發展的進一步體現，但合理利用AI，是現如今擺在我們面前的一道考題。如果放任AI為所欲為、一騙再騙，那么就違背了進步的初衷，所以必須進行有效治理，大幅增強打擊犯罪。

為了應對AI仿冒問題，我國已經出臺了相關法律法規。例如，《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》和《人工智能生成合成內容標識辦法》等規定，為剛性治理提供了依據。然而，執法不嚴和維權難仍然是當前面臨的主要問題。嚴格來說，現在互聯網上泛濫的AI，不僅有廠商和企業的責任，其實使用的用戶也難辭其咎。AI是進步生產力的體現，但是這一體現卻沒有被用在更廣泛的生產創造領域，反而表現了其更容易失控的特質。究其原因就是，不是每個人都有創造的能力。所以要治理如今的AI亂象必須加強監管，而AI的監管不僅要從行政監管入手，也要從使用監管入手。

如何提高其使用監管，應多措并舉，多方合力。從開發企業的角度來說，給所推出的AI產品強制性打上使用時的數字水印，就會在一定程度上強化溯源，遏制造假行為的沖動。如果生產者的信息被公開且便于追蹤，那么其侵權行為也會得到一定程度的收斂，使得在源頭上讓AI的生產變得謹慎；而從司法和監管部門的角度來看，及時完善立法和加強執法，也是應對其泛濫的關鍵，尤其是在信息傳播和消費者權益保護方面，涉及到虛假營銷等問題應當進行重罰，提高違法企業和個人的違法成本；從用戶使用的角度出發，平臺不僅要設置投訴窗口并及時響應，也應該提高AI使用門檻，從時間及年齡等方面進行限制，并簽署相關協議，壓實主體責任。只有三管齊下，AI泛濫并使用不當的情況才會得到顯著改善，行業發展才會健康有序。

互聯網不是法外之地，AI的發展和使用也必須在法律范圍之內。不論是從技術的角度出發，還是行政監管的領域來看，人工智能機遇和風險并存，而現在的亂象也只是行業發展的陣痛。技術沒有對錯，但如何使用和約束，需要有指導意見和法律的條款，我們不能寄希望于AI自動走到正規，而是應該積極采取措施進行介入，只有控制了使用行為，源頭打擊造假主體，現在的泛濫也必將得到徹底的治理。

【流程編輯：劉佳佳 07554】

本文版權所有，未經許可，禁止轉載。

題圖來自Pexels，基于CC0協議。