6月1日，知名學(xué)者王立群公開(kāi)譴責(zé)個(gè)人形象被AI合成視頻、在鎮(zhèn)政府視頻號(hào)上推銷健身方法一事，有了新進(jìn)展。

河南商丘睢縣縣委宣傳部回應(yīng)，涉事視頻的發(fā)布人是鎮(zhèn)政府工作人員；事發(fā)后睢縣長(zhǎng)崗鎮(zhèn)已經(jīng)責(zé)令當(dāng)事人立即刪掉視頻，賬號(hào)也已經(jīng)注銷，宣傳、網(wǎng)信、公安以及屬地政府對(duì)網(wǎng)絡(luò)負(fù)責(zé)人、制作發(fā)布人進(jìn)行了行政約談；長(zhǎng)崗鎮(zhèn)已與運(yùn)營(yíng)公司解除合作協(xié)議，并保留追究法律責(zé)任的權(quán)利。

據(jù)紅星新聞此前報(bào)道，5月31日，河南商丘睢縣長(zhǎng)崗鎮(zhèn)官方視頻號(hào)發(fā)布知名學(xué)者王立群的AI合成視頻。視頻中，“王立群”稱今年端午是“60年一遇的大吉之日”，看到視頻“預(yù)示即將九喜臨門”；“王立群”向網(wǎng)友索要點(diǎn)贊，推薦健身方法，并稱點(diǎn)擊頭像聯(lián)系客服可以獲得更多健身視頻。相關(guān)視頻當(dāng)日已獲過(guò)千點(diǎn)贊。

紅星新聞?dòng)浾唿c(diǎn)擊賬號(hào)頭像，進(jìn)入到一個(gè)“懷先傳承客服”的微信小店的聊天界面。微信提示“當(dāng)前為客服聊天”，客服賬號(hào)稱“正在接入人工客服”但最終沒(méi)有接入人工客服。

發(fā)布該視頻的賬號(hào)信息顯示，其ID為“無(wú)界山峰秀”，認(rèn)證為“睢縣長(zhǎng)崗鎮(zhèn)人民政府”；相關(guān)視頻中的人物口型、聲音嚴(yán)重失真，AI制作痕跡明顯，但未見(jiàn)標(biāo)注為AI生成內(nèi)容。

對(duì)此，王立群轉(zhuǎn)發(fā)該視頻至朋友圈并表示，嚴(yán)厲譴責(zé)以AI為工具、嚴(yán)重?fù)p害個(gè)人學(xué)術(shù)清譽(yù)的不法行為，并保留追究其法律責(zé)任的權(quán)利。王立群同日向紅星新聞?dòng)浾弑硎荆@是一種法治意識(shí)缺失的表現(xiàn)，性質(zhì)嚴(yán)重，后果惡劣；他要求長(zhǎng)崗鎮(zhèn)政府制作視頻公開(kāi)道歉。

▲王立群本人在朋友圈發(fā)聲譴責(zé)

5月31日，河南商丘睢縣長(zhǎng)崗鎮(zhèn)政府一名負(fù)責(zé)人向紅星新聞?dòng)浾弑硎荆l(fā)布王教授視頻的視頻號(hào)確實(shí)是該鎮(zhèn)政府的視頻號(hào)，5月30日剛注冊(cè)，已嚴(yán)厲批評(píng)管理賬號(hào)的工作人員；發(fā)布視頻侵犯了王教授的權(quán)利，絕不允許使用視頻號(hào)盈利。該負(fù)責(zé)人介紹，鎮(zhèn)政府的視頻號(hào)與一個(gè)團(tuán)隊(duì)合作運(yùn)營(yíng)，先通過(guò)視頻引流，以后幫助鎮(zhèn)里支農(nóng)惠農(nóng)項(xiàng)目，但引發(fā)了不良后果。

據(jù)紅星新聞此前報(bào)道，一位自稱與鎮(zhèn)政府合作運(yùn)營(yíng)該視頻號(hào)的運(yùn)營(yíng)者告訴記者，自己的團(tuán)隊(duì)是個(gè)創(chuàng)業(yè)團(tuán)隊(duì)，與鎮(zhèn)政府合作運(yùn)營(yíng)視頻號(hào)。其稱，初步想法是通過(guò)視頻引流，然后發(fā)布鎮(zhèn)里的農(nóng)業(yè)產(chǎn)業(yè)信息，盈利以后回饋助農(nóng)；30日剛注冊(cè)賬號(hào)，發(fā)布的“王教授”視頻是在網(wǎng)上找的，團(tuán)隊(duì)的運(yùn)營(yíng)人員發(fā)布的，對(duì)視頻造成的后果表示抱歉。

生成式AI已有管理辦法：

不得侵害他人肖像權(quán)、名譽(yù)權(quán)等

近年來(lái)，生成式人工智能飛速發(fā)展，AI帶來(lái)便利的同時(shí)，未經(jīng)許可使用AI生成名人形象、音視頻的情況也越來(lái)越多。去年到今年，從惡搞企業(yè)家雷軍到AI制作張文宏、張伯禮等名人音視頻帶貨，一些人以此進(jìn)行營(yíng)銷甚至詐騙。

2023年8月15日開(kāi)始實(shí)施的《生成式人工智能服務(wù)管理暫行辦法》明確規(guī)定，尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益。同時(shí)，明確提出，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。

今年2月央視新聞曾報(bào)道，有網(wǎng)友利用AI制作的劉德華聲音，為自己博取流量，劉德華電影公司還緊急發(fā)布聲明提醒網(wǎng)民，不要落入偽造劉德華聲音的AI語(yǔ)音合成技術(shù)騙局。相應(yīng)的深度合成軟件在網(wǎng)絡(luò)上下載并不算難，而且還有一些網(wǎng)絡(luò)主播會(huì)直播教網(wǎng)友如何使用。在手機(jī)應(yīng)用商城搜索換臉換聲，會(huì)出現(xiàn)眾多工具。

2023年國(guó)家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息。2024年網(wǎng)信辦發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》也提出，對(duì)AI生成合成內(nèi)容要進(jìn)行標(biāo)識(shí)，以便公眾識(shí)別和區(qū)分，防止誤導(dǎo)性信息傳播。

來(lái)源 ：都市現(xiàn)場(chǎng)、紅星新聞

編輯：孫瑞涵

校對(duì)：吳宇曉

聲明：“掌上青島”微信公號(hào)刊載此文，旨在傳遞更多信息。刊發(fā)信息如有錯(cuò)誤或版權(quán)問(wèn)題，請(qǐng)私信聯(lián)系，我們將及時(shí)妥善處理，感謝您關(guān)注支持。