午休時刻，小李的手機(jī)響個不停。家族群里，母親轉(zhuǎn)發(fā)的“醫(yī)保局張主任”AI視頻正在刷屏。

視頻中，身著藍(lán)色制服的“張主任”正站在辦事大廳前，動作僵硬地宣布“退休人員可憑身份證到社區(qū)領(lǐng)取‘買藥卡’免費領(lǐng)藥！”。視頻結(jié)尾還附有蓋著紅章的“政策文件”。

“媽，這主任連眼都不眨，肯定是假的！”小李把手機(jī)湊到母親眼前。母親卻指著屏幕反駁：“人家穿著制服，還有紅章，有圖有真相！”

當(dāng)社區(qū)群流傳AI生成的“地震預(yù)警”時，居民連夜囤貨擠爆超市；同學(xué)群瘋傳“某明星吸毒實錘”，點開竟是換臉拼接的演唱會舊影像；

老人深信“AI專家”的偏方，竟停用降糖藥……如今，AI謠言正如同病毒般，在互聯(lián)網(wǎng)空間肆意蔓延。

某歌手“突發(fā)去世”？實為“拼接舊照+AI配音”編造謠言

近日，某歌手“突發(fā)去世”的消息在社交媒體引發(fā)廣泛關(guān)注，該事件最終被證實為自媒體賬號利用“拼接舊照片+粵語AI配音”編造的謠言，當(dāng)事人隨后發(fā)帖自嘲“復(fù)活后先吃肉”。事實上，該賬號此前已炮制多名明星“去世”的虛假信息，被證實均為謠言。

不少粉絲看到偶像“去世”的消息后，涌入評論區(qū)留言“不敢相信”，更有網(wǎng)友自發(fā)在網(wǎng)上為其“設(shè)靈堂”“點燭哀悼”。直到當(dāng)事人或其工作室辟謠，眾人才知被AI謠言欺騙。

對此，在接受法治網(wǎng)記者采訪時，《法治日報》律師專家?guī)斐蓡T、北京市盈科律師事務(wù)所高級合伙人周垂坤律師表示，此類行為已構(gòu)成對當(dāng)事人名譽(yù)權(quán)、肖像權(quán)的侵害。他分析稱，編造“歌手去世”等虛假信息直接貶損當(dāng)事人社會評價，導(dǎo)致公眾對其人格尊嚴(yán)產(chǎn)生錯誤認(rèn)知。例如，謠言傳播后引發(fā)粉絲恐慌性討論，甚至出現(xiàn)不實“哀悼”行為，明顯造成負(fù)面影響。

“使用當(dāng)事人舊照片進(jìn)行拼接合成，屬于未經(jīng)許可擅自制作、公開他人肖像的行為。即使照片來源合法，但用于虛構(gòu)死亡事件已超出合理使用范圍。”周垂坤說。

AI謠言正以“親情關(guān)懷”的偽裝潛入家庭

近年來，AI編造虛假消息的現(xiàn)象愈演愈烈，已經(jīng)從單純“蹭明星流量”演變?yōu)?strong>“蹭災(zāi)情熱度”甚至“無中生有”炮制假新聞。

比如，2024年1月，隴南張某某利用AI編造“甘肅紅十字會收取160萬管理費”等謠言干擾抗震救災(zāi)；2025年1月西藏定日縣地震后，一張“孩童被埋廢墟”的圖片引發(fā)全網(wǎng)揪心，后經(jīng)核查此圖為AI合成。

以上AI合成的“孩童被埋廢墟”圖，孩子有六根手指。

除此之外，法治網(wǎng)記者在社交平臺檢索發(fā)現(xiàn)，如今AI謠言正以“親情關(guān)懷”的偽裝潛入家庭。據(jù)媒體報道，近期云南一網(wǎng)友發(fā)視頻反映，父親輕信“AI養(yǎng)生專家”，竟停掉了三甲醫(yī)院開具的正規(guī)藥物。評論區(qū)不少子女無奈感慨：“父母對‘AI神醫(yī)’深信不疑，明明一眼識破也勸不住。”

圖源：小紅書搜索頁截圖

AI造謠已形成灰色產(chǎn)業(yè)鏈，各方責(zé)任如何界定？

值得注意的是，當(dāng)前AI造謠已形成分工明確的灰色產(chǎn)業(yè)鏈。

以媒體曝光的江西南昌MCN機(jī)構(gòu)案為例，上游技術(shù)團(tuán)隊通過AI工具日均生成4000到7000條虛假內(nèi)容，中游利用AI一鍵炮制契合平臺算法的“爆款”信息，通過5家MCN機(jī)構(gòu)操控842個賬號進(jìn)行矩陣式傳播。下游則通過流量補(bǔ)貼、廣告分成非法牟利。

法治網(wǎng)記者調(diào)查發(fā)現(xiàn)，此類產(chǎn)業(yè)鏈的技術(shù)隱蔽性極強(qiáng)，如廣西一男子利用AI技術(shù)，將抗洪視頻嫁接為虛假地震視頻，趁凌晨人工審核空窗期發(fā)布，借平臺對突發(fā)事件的流量傾斜，2小時內(nèi)播放量破百萬，甚至引發(fā)多地應(yīng)急部門誤判。

面對復(fù)雜的AI造謠鏈條，各方責(zé)任該如何界定？南開大學(xué)法學(xué)院副院長陳兵教授表示，造謠者作為直接發(fā)起者，必須承擔(dān)主要法律責(zé)任，可能面臨行政拘留或罰款；情節(jié)嚴(yán)重或構(gòu)成編造、故意傳播虛假信息罪或?qū)め呑淌伦铩?/strong>而平臺擔(dān)責(zé)的關(guān)鍵在于“明知”或“應(yīng)知”謠言存在卻未干預(yù)，如未審核AI生成內(nèi)容，或借助算法助推謠言傳播，可能因未盡“合理注意義務(wù)”承擔(dān)連帶責(zé)任。

陳兵認(rèn)為，AI時代需調(diào)整“通知-刪除”的避風(fēng)港原則，科學(xué)設(shè)定平臺監(jiān)管責(zé)任與信息過濾義務(wù)，在平衡創(chuàng)新與安全的前提下劃定底線規(guī)則。與此同時，AI工具提供者若未履行合規(guī)義務(wù)（如未添加“AI合成”等內(nèi)容標(biāo)識、未攔截敏感詞），可能因技術(shù)漏洞被追責(zé)。

平臺標(biāo)注“AI生成”，就能免除法律責(zé)任嗎？

法治網(wǎng)記者調(diào)查中還發(fā)現(xiàn)，不少短視頻平臺雖標(biāo)注“AI生成”，但標(biāo)簽位置隱蔽、字號過小，用戶極易忽略。

對此周垂坤指出，標(biāo)注“本作品由AI生成”僅是履行標(biāo)識義務(wù)的體現(xiàn)，不能作為免除法律責(zé)任的“護(hù)身符”。

周垂坤分析稱，平臺是否免責(zé)，需結(jié)合其內(nèi)容審核、算法監(jiān)管等實際行為綜合判定，若落實全鏈條管理措施，方可主張“技術(shù)中立”免責(zé)。平臺若部署反謠言算法（如自動識別虛假標(biāo)簽）并建立快速響應(yīng)機(jī)制（如舉報后24小時內(nèi)處理），或針對用戶未主動推薦的AI內(nèi)容（如個人動態(tài)頁非熱帖），平臺未通過算法擴(kuò)大傳播，可主張“技術(shù)中立”抗辯以減輕或免除責(zé)任。

圖源：某短視頻截圖

治理AI謠言，需技術(shù)手段與制度保障雙管齊下

為規(guī)范AI技術(shù)應(yīng)用，治理AI造謠亂象，今年已來，我國在政策監(jiān)管層面明顯提速。今年2月，中央網(wǎng)信辦啟動“清朗?整治 AI技術(shù)濫用”專項行動，分階段治理違規(guī)AI產(chǎn)品及利用AI制作發(fā)布謠言等行為。3月，國家網(wǎng)信辦等四部門聯(lián)合印發(fā)通知，明確要求自2025年9月1日起，AI生成合成內(nèi)容必須添加標(biāo)識。

與此同時，平臺方面也在積極探索治理AI造謠的有效路徑。比如2月24日，今日頭條在其“平臺治理開放日”活動中披露，2024年，其利用AI模型識別并清理93萬條AI謠言，封禁3萬個違規(guī)賬號，并建立信源庫以提升審核的精準(zhǔn)度。

回到文章開頭講述的那個故事，小李發(fā)現(xiàn)母親轉(zhuǎn)發(fā)的“AI專家”后，沒有立刻反駁，而是默默截圖、上傳至舉報平臺。20分鐘后便收到反饋：“舉報通過，違規(guī)作品已下架。”她順手將處理結(jié)果轉(zhuǎn)發(fā)到家族群，留言：“下次看到這類‘說話像機(jī)器人’的專家，先點舉報！”

對小李的這一做法，陳兵也持同樣態(tài)度，“發(fā)現(xiàn)疑似AI謠言等虛假信息，可向平臺及監(jiān)管部門舉報，共同凈化網(wǎng)絡(luò)環(huán)境。”他表示，治理AI謠言需技術(shù)手段與制度保障雙管齊下。

陳兵建議，平臺需提升多模態(tài)AI檢測能力，如結(jié)合聲紋、語義、畫面匹配度等識別技術(shù)篩選可疑內(nèi)容，并建立“AI初篩+人工復(fù)審”的分層機(jī)制，對疑似賬號及時篩查。監(jiān)管部門則需在完善AI內(nèi)容法規(guī)的同時，運(yùn)用“技術(shù)監(jiān)管技術(shù)”的思路，建立對平臺和自媒體的常態(tài)化技術(shù)監(jiān)測機(jī)制，提升AI謠言的識別處置效能。

周垂坤認(rèn)為，治理AI謠言需從技術(shù)攔截、法律追責(zé)、公眾教育等多維度構(gòu)建防御體系。他指出，用戶需提升辨識能力，對“無信源、情緒化標(biāo)題”內(nèi)容通過官方渠道交叉驗證。平臺應(yīng)完善AI內(nèi)容識別技術(shù)，建立謠言特征數(shù)據(jù)庫，通過技術(shù)手段攔截高風(fēng)險內(nèi)容，并對違規(guī)賬號實施封禁、限流等剛性措施。自媒體需要強(qiáng)化法律合規(guī)培訓(xùn)，避免借助AI技術(shù)“蹭熱度”。同時，他呼吁監(jiān)管部門加強(qiáng)AI生成內(nèi)容備案管理，留存追溯日志，以專項行動打擊造謠產(chǎn)業(yè)鏈，以提高違法成本形成震懾。

圖源：“央視新聞”視頻截圖

如今，小李成了家族群的“首席鑒謠官”。她照著央視新聞“三招鑒定AI圖片”的視頻，手把手教會母親辨別真假，68歲的母親終于會指著屏幕說：“這專家是假的，趕緊舉報！”

（來源：法治網(wǎng)）