“頂流男星豪賭10億”“路易吉自殺”“梅西去世”，這些都是近期流傳在網(wǎng)上的“新聞”。

與其叫它們“新聞”，不如叫“AI幻想碎片”。近些年來，隨著人工智能的快速發(fā)展，生成式內(nèi)容得到越來越多人的關(guān)注。

用AI生成“新聞”，成了最近大家的新樂子，不少網(wǎng)友開始嘗試自己生成相關(guān)內(nèi)容并進(jìn)行傳播。

“頂流男星豪賭10億”就來自某網(wǎng)友手筆，該網(wǎng)友使用AI軟件輸入社會(huì)熱點(diǎn)詞，制作了標(biāo)題為‘頂流明星被曝境外豪賭輸光十億身價(jià)引發(fā)輿論海嘯’的謠言信息，并在小紅書、微博等社交平臺(tái)迅速擴(kuò)散，目前已被處以行政拘留8日處罰。

其實(shí)使用AI助力新聞生產(chǎn)不是新鮮事。早在十年前新華社就開發(fā)了自己的第一位機(jī)器人記者“快筆小新”。它可以7×24小時(shí)不間斷工作，更可以跨越條線，原本需要編輯記者們15～30分鐘完成的稿件，“快筆小新”只需要3～5秒鐘就能完成。

國(guó)外媒體如BBC、紐約時(shí)報(bào)等媒體也都將AI納入新聞生產(chǎn)過程。但用AI助力新聞生產(chǎn)與用AI生成新聞是兩碼事。

由于當(dāng)前語言類AI還是抓取語料進(jìn)行生成，不少網(wǎng)友的自發(fā)內(nèi)容也會(huì)被AI識(shí)別為“資料”，從而生成一些看似真實(shí)，實(shí)際根本沒有發(fā)生的“新聞”。

更值得注意的是，這些由AI生成的假新聞?wù)蔀閮?nèi)容循環(huán)的源頭，也就是說用戶用AI生成內(nèi)容進(jìn)行發(fā)布，其他用戶進(jìn)行相關(guān)提問，AI會(huì)再次抓取這些內(nèi)容反饋給用戶。

當(dāng)新聞?dòng)幸惶煲部梢员弧吧伞保鼘硎裁矗謱⑾馐裁矗繋е@些問題，毒眸與多位媒體行業(yè)、AI行業(yè)以及互聯(lián)網(wǎng)行業(yè)從業(yè)者展開對(duì)話。

在AI席卷而來的當(dāng)下，我們更需要厘清，真實(shí)與虛幻的邊界。

頂流男星的謠言

“哇，是林俊杰還是周杰倫啊？玩這么大！”

三月初，一則內(nèi)容為“某超一線男星在澳門永利皇宮賭場(chǎng)貴賓廳連賭七日”的消息在網(wǎng)絡(luò)瘋傳。這則消息據(jù)稱“經(jīng)權(quán)威渠道確認(rèn)”，由國(guó)際金融調(diào)查機(jī)構(gòu)Global Financial Watch于3月10日發(fā)布的跨境資金異常流動(dòng)曝光。

信息顯示，該位“頂流男星”七日豪賭輸盡10.3億元流動(dòng)資產(chǎn)，抵押三處豪宅及私人飛機(jī)，為翻本還向澳門黑幫借貸3億元。

網(wǎng)友吃瓜熱情被迅速點(diǎn)燃，相關(guān)帖子開始在微博、小紅書、豆瓣、知乎等社交平臺(tái)大肆傳播，林俊杰、周杰倫等“頂流男星”都被提及，甚至還有網(wǎng)友跑到黃曉明微博下方求證是否輸了十億，得到對(duì)方“歡樂豆嗎？”的回答。

這條消息還釋出了相當(dāng)多的細(xì)節(jié)，諸如該男明星輸?shù)舻?0億分為離岸公司轉(zhuǎn)入8.6億，以及地下錢莊兌換1.7億港元現(xiàn)金籌碼；其內(nèi)地經(jīng)紀(jì)公司還在3月9日深夜發(fā)布聲明承認(rèn)其存在“個(gè)人財(cái)務(wù)問題”，兩棟被抵押的豪宅分別是位于北京朝陽區(qū)2.8億元的獨(dú)棟別墅以及上海陸家嘴的頂級(jí)公寓。

眼見各位被猜測(cè)的男明星們都默不作聲，輿論風(fēng)波愈演愈烈，越來越多的男明星被網(wǎng)友列入“可能名單”。就在網(wǎng)友們猜的不亦樂乎之際，公安部網(wǎng)安部門發(fā)布通告，原來這條看起來有鼻子有眼的網(wǎng)絡(luò)消息，竟然是AI生成的假新聞。

公安部通告稱，“網(wǎng)民徐某強(qiáng)（男，36歲）為博取流量、謀取非法利益，于2025年3月10日10時(shí)，使用軟件“某書”中AI智慧生成功能，輸入社會(huì)熱點(diǎn)詞制作了標(biāo)題為‘頂流明星被曝境外豪賭輸光十億身價(jià)引發(fā)輿論海嘯’的謠言，公安機(jī)關(guān)根據(jù)相關(guān)法律法規(guī)，已對(duì)徐某強(qiáng)處以行政拘留8日處罰。”

無獨(dú)有偶，在震驚韓國(guó)的金秀賢金賽綸事件中，也有AI假新聞的身影。

3月12日，微博名為“戀輿智”的網(wǎng)友發(fā)布微博，稱金秀賢在金賽綸頭七當(dāng)天（2025年3月12日前后）通過粉絲互動(dòng)平臺(tái)Bubble發(fā)布動(dòng)態(tài)，曬出粉絲禮物，并稱“不愧是超級(jí)chill的我”。

這條消息沒有引起“頂流男星豪賭輸10億”如此大的輿論風(fēng)波，但也燃起不少中國(guó)網(wǎng)友的義憤之情。由于金賽綸與金秀賢此前戀愛六年，金秀賢涉嫌“戀童癖”，金賽綸又在男方生日當(dāng)天選擇自殺，讓這條消息也開始快速擴(kuò)散。

但仔細(xì)分析此條微博，就會(huì)發(fā)現(xiàn)金賽綸去世日期為2月16日，頭七不管按照中韓哪一國(guó)家的習(xí)俗計(jì)算，都不應(yīng)該是3月12日。

和“頂流男星豪賭十億”的“新聞”一樣，這些AI生成式內(nèi)容雖然看起來真實(shí)詳細(xì)，但只要仔細(xì)一想，便有諸多細(xì)節(jié)經(jīng)不起推敲。或許AI比新聞從業(yè)者更是熟知人性，在這些精準(zhǔn)挑動(dòng)網(wǎng)友情緒的“新聞”中，AI加速了生成新聞的腳步，同時(shí)也消減了用戶冷靜思考的反應(yīng)與時(shí)間。

此時(shí)AI擔(dān)任的不再是省時(shí)省力的工具角色，而是幻覺碎片的生產(chǎn)者。

AI的自由與偏見

這兩年，AI假新聞層出不窮，而且以文字、圖片、視頻等各種形式出現(xiàn)。

今年年初，西藏日喀則市定日縣發(fā)生6.8級(jí)地震，多張“小男孩被埋圖”在網(wǎng)絡(luò)瘋傳，引發(fā)網(wǎng)友關(guān)切。然而經(jīng)公安機(jī)關(guān)核查，這些圖片均由一位青海網(wǎng)友使用AI工具生成而來，該網(wǎng)友將日喀則地震信息進(jìn)行關(guān)聯(lián)拼湊，引發(fā)謠言擴(kuò)散。

除此之外，還有不少網(wǎng)友也使用AI工具嫁接圖片，以其他地區(qū)地震現(xiàn)場(chǎng)生成為定日地震現(xiàn)場(chǎng)，駭人聽聞。

2023年，“杭州市政府3月1號(hào)取消機(jī)動(dòng)車依尾號(hào)限行”的“新聞”也在網(wǎng)絡(luò)瘋傳。

隨后“江浙之聲”報(bào)道，這則所謂的“新聞”，是杭州某小區(qū)業(yè)主群討論ChatGPT，一位業(yè)主開玩笑，稱試試用ChatGPT寫“杭州取消限行”的“新聞”，并在群里直播ChatGPT寫作的全過程，其他看到文章的業(yè)主直接當(dāng)成新聞截圖轉(zhuǎn)發(fā)。

AI還生成諸如“路易吉自殺”“梅西去世”“80后死亡率突破5.2%”等各種聳人聽聞的假新聞，從這些案例中不難看出，AI假新聞已經(jīng)蔓延至文娛、體育、社會(huì)生活等多個(gè)領(lǐng)域，并產(chǎn)生不小影響。

在此前毒眸對(duì)十位記者的采訪中，不少媒體從業(yè)者也都提及日常工作已經(jīng)開始使用AI，會(huì)用AI生成視頻新聞封面、搜集信息數(shù)據(jù)等。

2015年，新華社就開發(fā)了自己的第一位機(jī)器人記者“快筆小新”。“快筆小新”可以7×24小時(shí)不間斷工作，更可以跨越條線，從體育賽事報(bào)道到股市、國(guó)債開收盤，它都能自動(dòng)根據(jù)信息快速生成新聞稿件，原本需要編輯記者們15～30分鐘完成的稿件，“快筆小新”只需要3～5秒鐘就能完成。

在國(guó)外，新聞從業(yè)者對(duì)于AI的使用更加激進(jìn)大膽。

3月18日，意大利自由保守主義日?qǐng)?bào)《Il Foglio》發(fā)布了全球首份完全由AI生成的報(bào)紙。該份報(bào)紙共4頁，全部?jī)?nèi)容均由AI生成。頭版頭條劍指美國(guó)總統(tǒng)特朗普，此外頭版還刊登了專欄文章《普京的十次背叛》，稱普京“20年來違背承諾、撕毀協(xié)議和言而無信”。

經(jīng)濟(jì)、文化版面也都由AI生成最新數(shù)據(jù)討論及社會(huì)現(xiàn)象分析，最后還刊登了由AI生成的“讀者來信”。

《Il Foglio》編輯Claudio Cerasa認(rèn)為，《Il Foglio AI》展現(xiàn)了一份“真正的報(bào)紙”，它是“新聞、辯論和觀點(diǎn)碰撞的產(chǎn)物”以及“我們不得不思考的問題，這些問題不僅僅是新聞?lì)I(lǐng)域的”。

《洛杉磯時(shí)報(bào)》在今年3月3日也引入了一項(xiàng)新功能“Insights”。“Insights”可以表達(dá)特定觀點(diǎn)或“從個(gè)人角度”撰寫文章，但就在一天后，由于“Insights”淡化三K黨種族主義問題，該功能隨即下線。

代表《洛杉磯時(shí)報(bào)》記者的工會(huì)也隨后發(fā)表聲明，對(duì)“未經(jīng)編輯部審核的AI生成分析”表示擔(dān)憂。工會(huì)表示，他們不認(rèn)為這種做法會(huì)“增強(qiáng)公眾對(duì)媒體的信任，相反，這種工具可能會(huì)進(jìn)一步削弱新聞機(jī)構(gòu)的公信力”。

在毒眸和多位媒體從業(yè)者的對(duì)談中，我們也發(fā)現(xiàn)，隨著使用程度加深，也有不少新聞從業(yè)者開始掉入“AI陷阱”。

“3月份烏拉圭和阿根廷的比賽，梅西都沒上場(chǎng)，國(guó)內(nèi)某知名體育垂直媒體平臺(tái)發(fā)布的半場(chǎng)戰(zhàn)報(bào)就有‘梅西通過靈活跑位為球隊(duì)創(chuàng)造機(jī)會(huì)’的這種表述，疑似是用AI提前寫的。日常搜集資料的時(shí)候，我也在大平臺(tái)上看到過AI生成的莫須有新聞戰(zhàn)報(bào)。”知名體育自媒體博主碧波介紹。

“我們會(huì)使用AI進(jìn)行基礎(chǔ)資料搜集，原本以為會(huì)比較省力，但最近發(fā)現(xiàn)工作量似乎更多了，因?yàn)橐?yàn)證AI給到的是否是‘假數(shù)據(jù)’”。文娛記者周敬儀這樣說道。

多位媒體從業(yè)者都提到ChatGpt、DeepSeek、kimi，這是目前媒體從業(yè)者使用最多的三個(gè)AI應(yīng)用。

“kimi會(huì)給到很多文章索引，使用起來比較方便，但這些參考文章良莠不齊，有些也是網(wǎng)友自己發(fā)布的信息。”財(cái)經(jīng)記者朱元這樣認(rèn)為，”但財(cái)經(jīng)條線還好，因?yàn)槲覀円话阌肁I搜集財(cái)報(bào)數(shù)據(jù)以及經(jīng)營(yíng)數(shù)據(jù)”。

擁有八年文娛行業(yè)從業(yè)經(jīng)歷的編輯李莞爾則有些“苦不堪言”，“剛?cè)胄械臅r(shí)候我就發(fā)現(xiàn)很難找到關(guān)于文娛產(chǎn)業(yè)的權(quán)威信息，當(dāng)時(shí)主流還是用百度，但搜出來的基本都是網(wǎng)友自己發(fā)的八卦，或者是片湯話湊出來的所謂‘文章’，毫無價(jià)值。”

有了AI之后，李莞爾的工作似乎更難了。“我之前非常信任DeepSeek，因?yàn)楦杏X更有‘人味’，但后來發(fā)現(xiàn)，它生成的內(nèi)容看似非常完整且很‘權(quán)威’，但很多內(nèi)容根本就不存在。如果對(duì)行業(yè)沒有積累或者常識(shí)，很容易被騙到。”

一條莫比烏斯環(huán)

如同莫比烏斯環(huán)，現(xiàn)在的AI已經(jīng)形成“虛空內(nèi)容環(huán)”。

從上述AI假新聞的相關(guān)報(bào)道中，我們能看到，幾乎都是用戶自發(fā)在AI相關(guān)應(yīng)用中輸入指令即可完成。

“AI生成新聞的prompt非常簡(jiǎn)單，下指令，加一段參考，把新聞教科書里的寫作要求寫進(jìn)去，再根據(jù)一些基礎(chǔ)事實(shí)以及搜索內(nèi)容就可以生成。不需要專業(yè)AI應(yīng)用，在網(wǎng)頁版甚至就能生成。“AI行業(yè)從業(yè)者Ingemar這樣說道。

就職于AIGC相關(guān)企業(yè)的Han則提供了另一種生成可能。“還有一種類似于自動(dòng)抓取信息，比如在某搜索引擎上比較常見的無價(jià)值聚合信息。這在這一輪生成式AI爆發(fā)前就存在，主要利用爬蟲加上一代的文字處理AI做簡(jiǎn)單處理來填充平臺(tái)內(nèi)容。”

這更接近李莞爾在上文中提到的，更早時(shí)期，搜索引擎提供的無用信息。如果說早期這些無用信息大規(guī)模聚合在搜索引擎搭建的內(nèi)容平臺(tái)上，那到如今隨著社交媒體快速發(fā)展，以及傳播媒介的快速更迭，這些內(nèi)容被更快、更廣、更大規(guī)模地散播于更多平臺(tái)。

比如“頂流男星豪賭10億”就在小紅書上引起廣泛討論，更是一度登上微博熱搜。一則AI假新聞的生產(chǎn)成本、傳播成本都被大大降低，其擴(kuò)散范圍也變得更大、更廣。

更值得注意的是，這些由AI生成的假新聞?wù)蔀閮?nèi)容循環(huán)的源頭，也就是說用戶用AI生成內(nèi)容進(jìn)行發(fā)布，其他用戶進(jìn)行相關(guān)提問，AI會(huì)再次抓取這些內(nèi)容反饋給用戶。

“這接近于AI的數(shù)據(jù)崩潰的合成數(shù)據(jù)遞歸，持續(xù)下去會(huì)讓數(shù)據(jù)庫(kù)完全失真，是一個(gè)大問題，之前有不少LLM（AI大語言模型）訓(xùn)練時(shí)都遇到過這一問題。AI假新聞的產(chǎn)生很大程度上是這一問題的根源也是這個(gè)問題的結(jié)果。”Han這樣認(rèn)為。

即便LLM（AI大語言模型）以學(xué)習(xí)文本數(shù)據(jù)為核心，但這些文本數(shù)據(jù)往往包含“歷史和當(dāng)代的偏見”以及如今真假混雜的信息，導(dǎo)致模型再精心篩選訓(xùn)練，也難以解決這一問題。

劍橋大學(xué)博士后，西湖大學(xué)終身教授張?jiān)涝谂炫刃侣劦牟稍L中分享了目前主流的三大AI生成文本鑒別法，主要是監(jiān)督分類器法、零樣本分類器法以及水印法。

“監(jiān)督分類器法要收集大量已知數(shù)據(jù)，做分類學(xué)習(xí)。對(duì)訓(xùn)練時(shí)見過的大語言模型生成的文本，它的識(shí)別準(zhǔn)確率較高；但遇到未見過的模型生成的文本，識(shí)別準(zhǔn)確率下降；Fast-DetectGPT、DetectGPT屬于零樣本分類器法，無需收集數(shù)據(jù)進(jìn)行訓(xùn)練，主要通過AI文本的特征來“找同類”；水印法是在生成AI文本時(shí)打上“水印”。相關(guān)服務(wù)提供者對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)，或在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，這種方法準(zhǔn)確率高，但存在標(biāo)記被人為弱化甚至移除的風(fēng)險(xiǎn)。”

“目前法規(guī)也在規(guī)范化相關(guān)內(nèi)容，比如要求AI生成內(nèi)容需要額外標(biāo)注，有了標(biāo)注，后續(xù)這一問題有可能會(huì)得到緩解。”Han補(bǔ)充道。

在今年兩會(huì)上，也有人大代表提出加強(qiáng)對(duì)AI生成虛假信息治理的建議。全國(guó)政協(xié)委員、四川大學(xué)華西醫(yī)院教授甘華田在接受紅星新聞采訪時(shí)稱，AI深度偽造視頻、政府公告、企業(yè)聲明、名人言論、虛假金融信息等行為，已嚴(yán)重干擾公眾的判斷，這類虛假信息不僅誤導(dǎo)消費(fèi)者，還損害了社會(huì)公信力。

國(guó)家互聯(lián)網(wǎng)信息辦公室、工信部、公安部、國(guó)家廣電總局已發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，將于今年9月起實(shí)施，《辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，通過標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容操作、傳播各環(huán)節(jié)標(biāo)識(shí)行為。也就是開始對(duì)AI內(nèi)容“打水印”。

國(guó)外方面，OpenAI也已與新聞集團(tuán)和《金融時(shí)報(bào)》簽署了商業(yè)合作及授權(quán)協(xié)議，讓ChatGPT用戶能看到特定的、注明出處的新聞?wù)⒁煤玩溄印?/p>

這些措施與手段都在強(qiáng)化AI生成內(nèi)容的可靠性與確定性。在這個(gè)人人都可以產(chǎn)生內(nèi)容，“假作真時(shí)真亦假”的時(shí)代，AI的確如同雙刃劍，但不管如何使用，這把劍始終不能對(duì)著自己。