在數字時代，虛假信息的傳播如同泡沫般迅速膨脹，但終究難以持久。

11月12日開福公安發文稱，近日一則標題為《山東大媽擺攤賣水果被罰16萬，監管局回應不交罰145萬，法院判了》的文章在網絡上廣為流傳。

該文章一經發表，閱讀量瞬間突破7萬次，迅速引起網民的關注和議論。

圖片來源：開福公安

經當地有關部門核實，發現該文章內容為不實信息，且是由位于長沙市開福區某MCN公司發布。接到報警線索后，開福公安分局網安大隊、通泰街派出所立即聯動開展調查工作。

據該公司員工彭某交代，他主要負責公司代為運營的公眾號文案編輯工作，為增加公眾號的閱讀量與公司收益，彭某按照公司領導李某的要求，在網上尋找吸引眼球的文章和新聞，并利用AI工具，生成內容相近但地點和數據有所變化的雷同虛假文章來博取眼球。

隨后，該公司代為運營的公眾號發布“山東大媽擺攤賣水果被罰16萬”虛假文章被當地部門辟謠，為逃避法律責任,李某便將此文章刪除。同時，為了應付公眾號運營委托方，李某還請人偽造了虛假網站，并刊載該虛假文章及其他熱點新聞以證明文章來源有據可查。

圖片來源：開福公安

目前，該公司法定代表人李某、員工彭某被公安機關依法行政拘留。最后警方提醒：網絡不是法外之地！對在網上蓄意歪曲事實、編造傳播謠言，擾亂社會秩序的違法行為，公安機關將堅決依法處理。希望廣大網民保持理性思考，提高防范意識，積極抵制網絡謠言。做到不造謠、不信謠、不傳謠。攜手共建清朗網絡家園。

AI成為空手套白狼的工具

事實上，這并非是利用AI 制造和傳播虛假信息的孤例。近年來，此類現象屢見不鮮，呈愈演愈烈之勢。

2024年1月12日，有網民在某平臺發布文章稱：“一則令人心痛的新聞在貴州省貴陽市花溪區傳開，一個僅僅4個月大的女嬰被遺棄在超市角落。”這則消息迅速引起了網民們的廣泛關注和同情。

然而，經過調查發現，這竟是違法行為人周某精心策劃的一場騙局。周某開發了名為“翠綠筆墨” 的 AI 工具和配套管理系統，他招募志愿者并創建工作群，要求志愿者提供平臺賬號，然后通過其開發的管理系統代志愿者登錄賬號。周某利用 AI 工具自動生成相關文章，并通過管理系統將文章自動保存到志愿者平臺賬號的 “草稿箱” 中。之后，他在工作群發布任務，讓志愿者通過手機從 “草稿箱” 中手動發布。自 2023 年 11 月以來，周某通過這種方式招募獲取了 300 余個相關賬號（這些賬號目前均已關停），利用 AI 工具編造的信息高達約 42 萬條（這些虛假信息也均已被清除）。

圖片來源：四川網警

時間來到5 月，河南一網民在某平臺發布的文章再次引起軒然大波。文章稱：“巴中市最近上演了一場令人驚心動魄的事件，一輛運鈔車遭到踢爆，警民雙方展開了一場激烈的對峙。”而真實情況是，4 月 30 日上午 9 時許，在四川巴中的一輛運鈔車只是因在公交車站牌處占道停留，交警發現后請其駛離。違法人員尚某某在網上看到相關圖片后，為了吸引眼球、獲取流量和利益，懷著僥幸心理，在未經核實的情況下，使用 “AI 千文” 生成了標題為《一場驚心動魄的 “鈔票大戰” 巴中市警民對峙引發轟動誰將成為勝利者》的虛假信息并發布。

同樣在6 月，網絡平臺上的一條 “廣東省五華縣華陽鎮一 70 多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個月” 的短視頻在互聯網平臺廣泛傳播，引發了網民們的大量關注和激烈討論。公安網安部門迅速展開調查，結果令人震驚，該視頻的圖文內容完全是移花接木、肆意編造的網絡謠言。據造謠人員任某供述，這段長達幾分鐘、聲情并茂的視頻竟然全是由 AI 合成的。目前，公安機關已依法對任某追究法律責任。

諸如此類的案例不勝枚舉，在瀏覽器中檢索“AI 造謠”，搜索結果幾乎都是今年被警方破獲的新聞。例如封面新聞 10 月 17 日報道的《用 AI 軟件生成 “成都大規模拆遷” 等假消息！造謠者被處罰》，廈門廣電網 9 月 18 日報道的《移花接木、AI 加持，一男子網上造謠被依法采取刑事強制措施》等。這些由 AI 生成的謠言往往具有很強的迷惑性，它們通常 “圖文并茂”，甚至以官方報道的形式出現，讓普通網民很難辨別真偽。

據央視新聞發布的微博稱，炮制各類謠言的某MCN機構一天能生成4000篇至7000篇文章。經估算后一天收入大約在一萬元以上。

AI顛覆公眾認知產生謠言新形態

10月22日,《新華每日電訊》發表題為《警惕“AI污染”亂象》的每日一評。內容指出“去年以來，生成式人工智能在世界范圍內掀起一波接一波的熱潮，其顛覆性應用讓許多行業和網民受益。然而，一塊硬幣有兩面，伴隨生成式人工智能而來的也有一些負面問題，由‘信息垃圾’導致的‘AI污染’亂象越來越突出。”

圖片來源：新華每日電訊官網

公安部網安局在11 月 14 日發布的文章《聽說過 AI 造謠嗎？》中指出，AI 謠言具有定制化、門檻低、識別難、破壞大的特點。生成式人工智能借助多類機器學習方法，能夠從海量數據中學習不同內容的生成特征以及主體的表達風格。使用者只需要輸入關鍵詞，AI 軟件就可以在網絡上抓取素材生成文本，形成定制化的文章、新聞、報告等信息。

與以往造謠者單純依靠人工捏造、散布謠言這種相對“原始” 的方式相比，如今利用 AI 造謠者只需在工具中輸入關鍵詞，就能 “一鍵生成” 足以以假亂真的文章、圖片。AI 生成的虛假信息在形式上極為逼真，新聞要素齊全、內容完整，甚至還可能包含圖像和視頻，這使得公眾在面對這些信息時，很難辨別真假。這種偽裝性和欺騙性讓謠言的迷惑性大大增強。

而且，利用AI 工具制造謠言能夠生成極為逼真的圖片、音視頻，徹底顛覆了 “有圖有真相” 的傳統觀念，其蠱惑性極強，能夠在短時間內快速傳播，從而輕易引發社會恐慌，嚴重擾亂社會公共秩序。

天使投資人曾良在一次對話中與未來圖靈的對話中表示，大模型的出現會顛覆一些社會性結構的變化，也有可能顛覆人們對于知識架構的認知。未來人工智能與腦科學結合的時候，人類獲取知識的方式變得更加簡單和直接。知識會變得更像即查即用的資源。

玲瓏AI創始人周宇也曾對我們表達過類似的觀點，他指出，當人們意識到大模型在處理和分析大量數據方面擁有強大的能力時，可能減少個人在自我提升和學習新知識上的緊迫感，他們知道可以依賴人工智能來輔助解決問題。在需求不迫切的情況下，人們可以等待人工智能提供答案，而不必急于自行求解。

在周宇看來，社會中存在兩類人群，他們時而交織，時而分明：一類是創造知識的人，專注于知識原創；另一類是應用和傳播知識的人，通過知識實現目標。在知識創造領域，創新持續發生；在知識應用領域，應用仍是主導。大模型的輔助使得知識創造更易實現，知識應用也變得更為迅速。人們需背誦乘法表、學習復雜計算公式，計算器的出現減少了這一需求。在缺乏計算器的年代，乘法表是必需的創造。

圖片來源：攝圖網

AI 謠言最可怕的地方在于它對公眾認知的嚴重顛覆。在傳統觀念中，人們一直相信 “眼見為實”、“有圖有真相”，然而在 AI 技術的偽裝下，這些觀念變得搖搖欲墜。虛假信息通過 AI 技術的 “魔法” 變得栩栩如生，普通網民在面對海量信息時，往往不知所措，難以分辨信息的真偽。

但我們永遠要相信虛假信息傳播帶來的流量不可能長久，天下也絕不會有無本萬利的生意。