6月1日，知名學者王立群公開譴責個人形象被AI合成視頻、在鎮政府視頻號上推銷健身方法一事，有了新進展。

河南商丘睢縣縣委宣傳部回應，涉事視頻的發布人是鎮政府工作人員；事發后睢縣長崗鎮已經責令當事人立即刪掉視頻，賬號也已經注銷，宣傳、網信、公安以及屬地政府對網絡負責人、制作發布人進行了行政約談；長崗鎮已與運營公司解除合作協議，并保留追究法律責任的權利。

據紅星新聞此前報道，5月31日，河南商丘睢縣長崗鎮官方視頻號發布知名學者王立群的AI合成視頻。視頻中，“王立群”稱今年端午是“60年一遇的大吉之日”，看到視頻“預示即將九喜臨門”；“王立群”向網友索要點贊，推薦健身方法，并稱點擊頭像聯系客服可以獲得更多健身視頻。相關視頻當日已獲過千點贊。

紅星新聞記者點擊賬號頭像，進入到一個“懷先傳承客服”的微信小店的聊天界面。微信提示“當前為客服聊天”，客服賬號稱“正在接入人工客服”但最終沒有接入人工客服。

發布該視頻的賬號信息顯示，其ID為“無界山峰秀”，認證為“睢縣長崗鎮人民政府”；相關視頻中的人物口型、聲音嚴重失真，AI制作痕跡明顯，但未見標注為AI生成內容。

對此，王立群轉發該視頻至朋友圈并表示，嚴厲譴責以AI為工具、嚴重損害個人學術清譽的不法行為，并保留追究其法律責任的權利。王立群同日向紅星新聞記者表示，這是一種法治意識缺失的表現，性質嚴重，后果惡劣；他要求長崗鎮政府制作視頻公開道歉。

▲王立群本人在朋友圈發聲譴責

5月31日，河南商丘睢縣長崗鎮政府一名負責人向紅星新聞記者表示，發布王教授視頻的視頻號確實是該鎮政府的視頻號，5月30日剛注冊，已嚴厲批評管理賬號的工作人員；發布視頻侵犯了王教授的權利，絕不允許使用視頻號盈利。該負責人介紹，鎮政府的視頻號與一個團隊合作運營，先通過視頻引流，以后幫助鎮里支農惠農項目，但引發了不良后果。

據紅星新聞此前報道，一位自稱與鎮政府合作運營該視頻號的運營者告訴記者，自己的團隊是個創業團隊，與鎮政府合作運營視頻號。其稱，初步想法是通過視頻引流，然后發布鎮里的農業產業信息，盈利以后回饋助農；30日剛注冊賬號，發布的“王教授”視頻是在網上找的，團隊的運營人員發布的，對視頻造成的后果表示抱歉。

生成式AI已有管理辦法：

不得侵害他人肖像權、名譽權等

近年來，生成式人工智能飛速發展，AI帶來便利的同時，未經許可使用AI生成名人形象、音視頻的情況也越來越多。去年到今年，從惡搞企業家雷軍到AI制作張文宏、張伯禮等名人音視頻帶貨，一些人以此進行營銷甚至詐騙。

2023年8月15日開始實施的《生成式人工智能服務管理暫行辦法》明確規定，尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。同時，明確提出，提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。

今年2月央視新聞曾報道，有網友利用AI制作的劉德華聲音，為自己博取流量，劉德華電影公司還緊急發布聲明提醒網民，不要落入偽造劉德華聲音的AI語音合成技術騙局。相應的深度合成軟件在網絡上下載并不算難，而且還有一些網絡主播會直播教網友如何使用。在手機應用商城搜索換臉換聲，會出現眾多工具。

2023年國家網信辦、工信部、公安部聯合發布實施的《互聯網信息服務深度合成管理規定》要求，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息。2024年網信辦發布的《人工智能生成合成內容標識辦法（征求意見稿）》也提出，對AI生成合成內容要進行標識，以便公眾識別和區分，防止誤導性信息傳播。

來源 ：都市現場、紅星新聞

編輯：孫瑞涵

校對：吳宇曉

聲明：“掌上青島”微信公號刊載此文，旨在傳遞更多信息。刊發信息如有錯誤或版權問題，請私信聯系，我們將及時妥善處理，感謝您關注支持。