文 | 王可（新京報(bào)傳媒研究院）

在 AIGC 技術(shù)濫用的當(dāng)下，一段看似真實(shí)的新聞人物講話視頻、一則言之鑿鑿的政策變動(dòng)消息，都可能是 AI 精心炮制的虛假內(nèi)容。當(dāng)假新聞足以亂真，新聞?wù)鎸?shí)性會(huì)受到前所未有的沖擊。

4月30日，中央網(wǎng)信辦啟動(dòng) “清朗?整治 AI 技術(shù)濫用” 專(zhuān)項(xiàng)行動(dòng)，再次將這一棘手難題拋出。面對(duì)來(lái)勢(shì)洶洶的 AIGC 風(fēng)險(xiǎn)，傳統(tǒng) “采編校” 流程是否還能穩(wěn)如泰山？媒體又該如何破局？

01

傳統(tǒng)流程難敵造假

過(guò)去，“采編校” 流程是新聞?wù)鎸?shí)的堅(jiān)實(shí)保障。記者深入一線，通過(guò)實(shí)地走訪、面對(duì)面訪談等方式收集第一手資料，編輯則對(duì)稿件中的數(shù)據(jù)、事實(shí)進(jìn)行核對(duì)，雖然整個(gè)過(guò)程耗時(shí)較長(zhǎng)，但每一個(gè)環(huán)節(jié)都凝聚著新聞工作者的專(zhuān)業(yè)精神與嚴(yán)謹(jǐn)態(tài)度，確保了新聞內(nèi)容的可靠性與權(quán)威性。

然而，AI 時(shí)代的到來(lái)，徹底改變了信息生產(chǎn)與傳播的格局。AI 生成的虛假信息具有高產(chǎn)量、高仿真的顯著特點(diǎn)，能夠在數(shù)秒內(nèi)產(chǎn)出一篇邏輯通順、看似專(zhuān)業(yè)的新聞報(bào)道；圖像生成技術(shù)則可以根據(jù)簡(jiǎn)單的文字描述，快速生成以假亂真的場(chǎng)景圖片；視頻合成工具更是能將不同的畫(huà)面、聲音巧妙融合，制作出令人難以分辨真假的視頻內(nèi)容。

△2025 年初，西藏日喀則地震發(fā)生后，一張 “地震廢墟中戴帽小孩” 的圖片在網(wǎng)絡(luò)大量轉(zhuǎn)發(fā)，下方許多留言都在關(guān)心孩子是否平安獲救。很快，詞條 “地震廢墟中戴帽小孩圖片是 AI 生成” 沖上微博熱搜，人們才發(fā)現(xiàn)被假新聞?wù)`導(dǎo)。實(shí)際上，早在 2024 年 11 月這張圖片已在社交媒體出現(xiàn)，創(chuàng)作者當(dāng)時(shí)注明由 AI 生成，但地震發(fā)生后，被大量自媒體轉(zhuǎn)發(fā)時(shí)去掉了附注，并帶上日喀則地震相關(guān)詞條及文案，誤導(dǎo)觀眾以為是災(zāi)區(qū)影像 。

隨著 AI 技術(shù)的不斷迭代升級(jí)，其生成內(nèi)容的逼真程度也越來(lái)越高。早期的 AI 生成內(nèi)容還存在語(yǔ)句不通順、畫(huà)面細(xì)節(jié)失真等問(wèn)題，如今卻能夠精準(zhǔn)模仿人類(lèi)的語(yǔ)言風(fēng)格、表情神態(tài)，甚至可以模擬特定場(chǎng)景下的光線、陰影等細(xì)節(jié)。僅憑肉眼和過(guò)往的經(jīng)驗(yàn)，普通人乃至專(zhuān)業(yè)的新聞工作者，都很難在第一時(shí)間辨別真?zhèn)危@使得傳統(tǒng) “采編校” 流程在 AI 造假面前顯得力不從心。

△2024年9月，美國(guó)佛羅里達(dá)州被颶風(fēng)襲擊時(shí)，一張穿救生衣的小女孩在救生艇上抱著小狗流眼淚的圖片在社交網(wǎng)絡(luò)上瘋傳，但實(shí)際上，這是一張AI生成的“偽新聞圖片”，伴隨著這張照片一同傳播的還有各種陰謀論和假新聞。

02

技術(shù)依賴(lài)的新風(fēng)險(xiǎn)

AI 技術(shù)的出現(xiàn)，大幅提升了新聞生產(chǎn)的效率，降低了生產(chǎn)成本，讓新聞媒體能夠更快、更廣地傳播信息。但過(guò)度依賴(lài) AI 技術(shù)也滋生出一系列新問(wèn)題。一旦媒體開(kāi)始依賴(lài) AI 技術(shù)進(jìn)行新聞的采集、撰寫(xiě)與核查，就可能在不知不覺(jué)中淪為虛假新聞傳播的 “幫兇”。

△2024年10月，一篇題為《大媽擺攤賣(mài)水果被罰16萬(wàn)，監(jiān)管局回應(yīng)不交就罰145萬(wàn)》的文章在多個(gè)網(wǎng)絡(luò)平臺(tái)傳播，甚至被部分地方新聞網(wǎng)站轉(zhuǎn)載。經(jīng)警方調(diào)查，該文章由湖南長(zhǎng)沙某傳媒公司利用AI洗稿生成，內(nèi)容完全虛構(gòu)，目的是煽動(dòng)公眾情緒以獲取流量。此后，涉事公司負(fù)責(zé)人被行政拘留，相關(guān)媒體刪除報(bào)道并致歉。

與此同時(shí)，當(dāng)媒體習(xí)慣在AI輔助下完成工作時(shí)，記者的實(shí)地調(diào)查能力、編輯的深度思考能力會(huì)逐漸被削弱，新聞生產(chǎn)也因此失去了人的溫度與專(zhuān)業(yè)判斷，變得機(jī)械化、模式化，難以滿足公眾對(duì)高質(zhì)量新聞的需求。

2023年5月，愛(ài)爾蘭主流媒體《愛(ài)爾蘭時(shí)報(bào)》刊登了題為《愛(ài)爾蘭女性對(duì)人工美黑的癡迷很成問(wèn)題》的文章。文章中指責(zé)愛(ài)爾蘭女性人工曬黑皮膚，內(nèi)容涉嫌歧視少數(shù)族裔。
然而，這篇文章很快被揭穿是一個(gè)惡作劇， 實(shí)際上是由人工智能生成的。報(bào)社在得知真相后迅速下架了這篇文章，并發(fā)表了道歉聲明。聲明中表示， 這次事件破壞了報(bào)紙與讀者之間的信任。

03

破局之路怎么走

破局 AI 虛假新聞的困境，需要多方協(xié)同行動(dòng)。

對(duì)于媒體自身而言，將 AI 檢測(cè)工具融入采編流程，形成 “人機(jī)協(xié)同” 的核查模式，既能發(fā)揮 AI 技術(shù)高效處理數(shù)據(jù)的優(yōu)勢(shì)，又能依靠新聞工作者的專(zhuān)業(yè)經(jīng)驗(yàn)進(jìn)行最終判斷，從而提高虛假新聞的識(shí)別準(zhǔn)確率。

人才培養(yǎng)方面，新聞院校和媒體機(jī)構(gòu)應(yīng)加強(qiáng)對(duì)從業(yè)者的技術(shù)培訓(xùn)，開(kāi)設(shè) AIGC 相關(guān)課程。通過(guò)系統(tǒng)的學(xué)習(xí)，讓新聞工作者了解 AI 技術(shù)的原理、應(yīng)用場(chǎng)景以及可能帶來(lái)的風(fēng)險(xiǎn)，掌握識(shí)別 AI 虛假內(nèi)容的方法和技巧。

除此以外，監(jiān)管部門(mén)要制定完善的 AI 信息發(fā)布規(guī)范和法律法規(guī)，明確 AI 內(nèi)容生產(chǎn)者、傳播者的責(zé)任和義務(wù)，對(duì)違規(guī)行為進(jìn)行嚴(yán)厲懲處，從源頭上遏制虛假新聞的傳播。

在這場(chǎng)真假博弈中，媒體應(yīng)該繼續(xù)成為公眾信賴(lài)的信息燈塔。守住新聞?wù)鎸?shí)，不僅需要革新流程、善用技術(shù)，更要回歸對(duì)事實(shí)的敬畏與堅(jiān)守。

校對(duì) | 張彥君

主編推薦