這年頭，造謠的速度，插上AI的翅膀，已經快得超乎一般想象了。

還記得前不久社交媒體廣為流傳的“華山醫院院長客死他鄉”的“震驚新聞”？同事今天分享了謠言背后的故事，給我聽得大開眼界：三個95后小伙，最小的還是2006年生的大學生，從今年2月開始起號，到案發的兩個月時間內，純靠AI發布了30萬條緊跟熱點的帖文信息，從而換取平臺流量，謀取利益。這其中有相當數量均為AI胡編亂造的謠言，包括但不限于某女明星的遺產分配、華山醫院“院長”客死他鄉……甚至，被抓的時候，三個人自己都記不清楚自己編了啥話。

這個過程，基本已經完全脫離哪怕“ctrl c+ctrl v”這樣簡單的人工過程，轉而依靠AI大模型生成內容，再在AI agent上代理分發，實現全自動制造垃圾信息，炮制和分發速度以秒計算。唯一需要他們付出人工勞動的，就是每天早上的“選題會”，主要就是搜羅各個平臺的熱搜，再交由AI，用模糊指令生成具體內容。

而這樣的事情，早已不是個案。此前，也有調查揭露MCN中存在專門從事灰色“流量生意”的情況，原理都差不多，都是“AI賦能”，再借助廉價甚至免費的代理平臺，實現超低成本的虛假信息發布，賺取流量。

我們需要認識到一個現實：如今，信息造假和傳播需要的成本已經降低了太多，而虛假信息發布和傳遞的渠道則便利了太多。就像這個案例里，造謠者不需要任何“專業”知識和大規模團隊，三個人，就能在兩個月里發布30萬條信息，在此前，這樣的速度需要的人力物力遠不止于這么點。

機器人可能還在蹣跚奔跑，但生成式AI是真正以很多人沒預估到的深度參與進生活。而且，不知疲倦的AI在信息生產領域有著不可比擬的優勢。據 Everypixel Journal 估算，截止到 2023年8月，AI生成的圖像已超過過去150年人類拍攝的所有照片數量。隨著各類大模型的飛速迭代，這一數量只會更驚人。

數量還在其次，更讓我擔心的，其實是生成式AI造謠所導致的信息污染問題。

當海量被胡編亂造炮制出來的內容進入公共信息流中，在平臺和自媒體賬號的推波助瀾下，往往形成真假不分，甚至以假亂真的局面，嚴重干擾人們的正常認知。

這和人們的信息接受方式緊密相關。其實，很多自媒體賬號“翻車”也不是一次兩次了，今年初某女明星去世引起的輿論風波中，包括前述團伙在內的許多賬號就炮制過該女星子女撫養權等謠言，雖然被平臺進行了下架限流處理，但客觀上這些不實信息已混雜成為公共信息的一部分，人為制造了某種虛假的“劇情反轉”效果。

站在信息接受者的角度來看，當被編造出來的所謂“反轉”越來越多，很難不讓人產生“真相沒有那么簡單”的判斷，甚至變成一種面對公共事件的下意識反應。次數多了，人們對社會現實和權威信息不再信任，反而更愿意輕信小道消息和自己的經驗推測，美其名曰“讓子彈飛一會兒”，社會共識也就更難以形成，輿論自然撕裂愈深，無數的對立、謾罵、攻訐，最終換來的只有“一地雞毛”。

很顯然，這是個公共信息“劣幣驅逐良幣”的過程。特別是在流量可通過平臺變現的邏輯之下，真相變得并不重要，重要的是聲量，往往越是極端化、情緒化的信息，越能吸引眼球、越有“市場”，與此相對應，理性的聲音自然就更容易被淹沒了。

更讓人后怕的是，這種信息污染的方式，往往不是物理層面的相加，而是以化學融合的方式快速迭代復制。道理很簡單，利用AI生成的內容，本身也會在信息流中被各種AI模型抓取，變成AI語料庫的一部分，相當于編造了一輪又一輪，本質上是個信息不斷“反芻”的過程，最后生成的內容已經與事實相差十萬八千里，還會影響到AI本身的訓練過程和未來信息源，讓謠言的影響持久不散。

這類信息污染的滲透之深，或許比人們想象得要更為嚴重。其中固然有為謀利故意為之的，但也有很多專業人士、專業機構，在嚴肅的公共寫作、學術論文寫作中引用了AI編造的不實信息而不自知，甚至能騙過層層人工審核得以發表，所謂的“深度內容”，實際上已淪為“深度偽造”。

當AI造謠的運作模式變得更加熟練，成本越來越低，背后的產業鏈及利益鏈也就更為順暢且牢固。顯然，應對之法，已不能簡單滿足于傳統的人工干預手段。事實上，包括上海在內，多地已經在探索數字水印、特征檢測等多種針對性的技術手段，依靠AI技術用“魔法”打敗“魔法”。

面對來勢洶洶的AI謠言，掌握真實信息的政府部門和公共機構，需要比以往用更快的速度、更翔實的信息鏈對謠言進行澄清和回應。同時，社會正常的運作秩序需要保障，政府部門和公共機構的精力不可能也不應該全部浪費在應付這些“秒發”謠言上，炮制謠言者必須依法嚴懲，無論他們使用的是什么工具。要用法律武器讓他們意識到擾亂公共信息秩序同樣是違法犯罪，同樣要付出沉重的代價，而不是一句輕飄飄的“都是AI自己生成的”就能掩蓋罪責，AI造謠，絕對不能“零成本”。從這個角度來說，這起案件的查處對目前泛濫的AI信息生成極具警示意義。

我還覺得，在加強技術監管、落實平臺責任之外，最終還是離不開每一個個體提升自己的媒介素養。當周遭信息環境已然發生深刻變革，能夠檢索出真實且有價值的信息，越來越成為個人的一項核心能力。很多時候這也并不復雜，哪怕只是多留個心眼檢索一下信息出處、看到一些可疑信息不輕易跟風上頭，都能少踩許多坑。

時代在變，面對造謠零成本的AI，身處其中的平臺、公共管理方，乃至我們自己，其實也都需要改變。

微信編輯：何夕

還原事實，洞悉真相。

歡迎關注，留言舉報！

除了辟謠，這里還關注網絡熱點，及時回應網友關切，追蹤事件進展。