文 | 王可（新京報傳媒研究院）

在 AIGC 技術(shù)濫用的當下，一段看似真實的新聞人物講話視頻、一則言之鑿鑿的政策變動消息，都可能是 AI 精心炮制的虛假內(nèi)容。當假新聞足以亂真，新聞?wù)鎸嵭詴艿角八从械臎_擊。

4月30日，中央網(wǎng)信辦啟動 “清朗?整治 AI 技術(shù)濫用” 專項行動，再次將這一棘手難題拋出。面對來勢洶洶的 AIGC 風險，傳統(tǒng) “采編校” 流程是否還能穩(wěn)如泰山？媒體又該如何破局？

01

傳統(tǒng)流程難敵造假

過去，“采編校” 流程是新聞?wù)鎸嵉膱詫嵄Ｕ稀?/strong>記者深入一線，通過實地走訪、面對面訪談等方式收集第一手資料，編輯則對稿件中的數(shù)據(jù)、事實進行核對，雖然整個過程耗時較長，但每一個環(huán)節(jié)都凝聚著新聞工作者的專業(yè)精神與嚴謹態(tài)度，確保了新聞內(nèi)容的可靠性與權(quán)威性。

然而，AI 時代的到來，徹底改變了信息生產(chǎn)與傳播的格局。AI 生成的虛假信息具有高產(chǎn)量、高仿真的顯著特點，能夠在數(shù)秒內(nèi)產(chǎn)出一篇邏輯通順、看似專業(yè)的新聞報道；圖像生成技術(shù)則可以根據(jù)簡單的文字描述，快速生成以假亂真的場景圖片；視頻合成工具更是能將不同的畫面、聲音巧妙融合，制作出令人難以分辨真假的視頻內(nèi)容。

△2025 年初，西藏日喀則地震發(fā)生后，一張 “地震廢墟中戴帽小孩” 的圖片在網(wǎng)絡(luò)大量轉(zhuǎn)發(fā)，下方許多留言都在關(guān)心孩子是否平安獲救。很快，詞條 “地震廢墟中戴帽小孩圖片是 AI 生成” 沖上微博熱搜，人們才發(fā)現(xiàn)被假新聞?wù)`導。實際上，早在 2024 年 11 月這張圖片已在社交媒體出現(xiàn)，創(chuàng)作者當時注明由 AI 生成，但地震發(fā)生后，被大量自媒體轉(zhuǎn)發(fā)時去掉了附注，并帶上日喀則地震相關(guān)詞條及文案，誤導觀眾以為是災(zāi)區(qū)影像 。

隨著 AI 技術(shù)的不斷迭代升級，其生成內(nèi)容的逼真程度也越來越高。早期的 AI 生成內(nèi)容還存在語句不通順、畫面細節(jié)失真等問題，如今卻能夠精準模仿人類的語言風格、表情神態(tài)，甚至可以模擬特定場景下的光線、陰影等細節(jié)。僅憑肉眼和過往的經(jīng)驗，普通人乃至專業(yè)的新聞工作者，都很難在第一時間辨別真?zhèn)危@使得傳統(tǒng) “采編校” 流程在 AI 造假面前顯得力不從心。

△2024年9月，美國佛羅里達州被颶風襲擊時，一張穿救生衣的小女孩在救生艇上抱著小狗流眼淚的圖片在社交網(wǎng)絡(luò)上瘋傳，但實際上，這是一張AI生成的“偽新聞圖片”，伴隨著這張照片一同傳播的還有各種陰謀論和假新聞。

02

技術(shù)依賴的新風險

AI 技術(shù)的出現(xiàn)，大幅提升了新聞生產(chǎn)的效率，降低了生產(chǎn)成本，讓新聞媒體能夠更快、更廣地傳播信息。但過度依賴 AI 技術(shù)也滋生出一系列新問題。一旦媒體開始依賴 AI 技術(shù)進行新聞的采集、撰寫與核查，就可能在不知不覺中淪為虛假新聞傳播的 “幫兇”。

△2024年10月，一篇題為《大媽擺攤賣水果被罰16萬，監(jiān)管局回應(yīng)不交就罰145萬》的文章在多個網(wǎng)絡(luò)平臺傳播，甚至被部分地方新聞網(wǎng)站轉(zhuǎn)載。經(jīng)警方調(diào)查，該文章由湖南長沙某傳媒公司利用AI洗稿生成，內(nèi)容完全虛構(gòu)，目的是煽動公眾情緒以獲取流量。此后，涉事公司負責人被行政拘留，相關(guān)媒體刪除報道并致歉。

與此同時，當媒體習慣在AI輔助下完成工作時，記者的實地調(diào)查能力、編輯的深度思考能力會逐漸被削弱，新聞生產(chǎn)也因此失去了人的溫度與專業(yè)判斷，變得機械化、模式化，難以滿足公眾對高質(zhì)量新聞的需求。

2023年5月，愛爾蘭主流媒體《愛爾蘭時報》刊登了題為《愛爾蘭女性對人工美黑的癡迷很成問題》的文章。文章中指責愛爾蘭女性人工曬黑皮膚，內(nèi)容涉嫌歧視少數(shù)族裔。
然而，這篇文章很快被揭穿是一個惡作劇， 實際上是由人工智能生成的。報社在得知真相后迅速下架了這篇文章，并發(fā)表了道歉聲明。聲明中表示， 這次事件破壞了報紙與讀者之間的信任。

03

破局之路怎么走

破局 AI 虛假新聞的困境，需要多方協(xié)同行動。

對于媒體自身而言，將 AI 檢測工具融入采編流程，形成 “人機協(xié)同” 的核查模式，既能發(fā)揮 AI 技術(shù)高效處理數(shù)據(jù)的優(yōu)勢，又能依靠新聞工作者的專業(yè)經(jīng)驗進行最終判斷，從而提高虛假新聞的識別準確率。

人才培養(yǎng)方面，新聞院校和媒體機構(gòu)應(yīng)加強對從業(yè)者的技術(shù)培訓，開設(shè) AIGC 相關(guān)課程。通過系統(tǒng)的學習，讓新聞工作者了解 AI 技術(shù)的原理、應(yīng)用場景以及可能帶來的風險，掌握識別 AI 虛假內(nèi)容的方法和技巧。

除此以外，監(jiān)管部門要制定完善的 AI 信息發(fā)布規(guī)范和法律法規(guī)，明確 AI 內(nèi)容生產(chǎn)者、傳播者的責任和義務(wù)，對違規(guī)行為進行嚴厲懲處，從源頭上遏制虛假新聞的傳播。

在這場真假博弈中，媒體應(yīng)該繼續(xù)成為公眾信賴的信息燈塔。守住新聞?wù)鎸崳粌H需要革新流程、善用技術(shù)，更要回歸對事實的敬畏與堅守。

校對 | 張彥君

主編推薦