“華山醫院前院長張明遠，因闌尾炎未得到及時救治，客死他鄉醫院走廊長椅。”

“悼念！當‘醫療泰斗’倒在異國急診室，我才讀懂中國醫生的‘生死時速’！”

今年3月初，一則關于“華山醫院前院長”因病客死他鄉的消息在互聯網廣泛傳播，也引起了眾多網友的關注。然而經警方核查卻發現，華山醫院壓根就沒有名為“張明遠”的前院長，也沒有同名員工。

那么，這則流傳甚廣的假消息，是從何而來的呢？經上海公安網安部門迅速調查，最終成功偵破這起利用AI造謠案，將犯罪嫌疑人王某某、郭某某、石某某抓獲歸案。而令人吃驚的是，犯罪嫌疑人在發布該假消息前，甚至都不知道有華山醫院這家醫院，更不知道所謂的“張明遠”這個人。

控制500余個賬號發布不實帖文30余萬條

據犯罪嫌疑人王某某交代，他之前從事電商工作，由于沒有貨源，主要給別人做代理。近兩年，王某某想轉換“賽道”，自認為自媒體準入門檻較低，軟件和工具在網上就有，方法也有人教，只需要花時間運營，就能賺錢，成本很低。于是，王某某、郭某某、石某某等3人共同成立了工作室，開始通過自媒體賬號發文吸粉引流牟利。

公安機關查實，王某某、郭某某、石某某等3人，通過控制500余個自媒體賬號，設置社會熱點、明星緋聞、爆款推薦等關鍵詞策略，利用AI工具自動生成并發布不實帖文30余萬條，造成惡劣社會影響。

據了解，王某某等人運營的是短資訊類消息自媒體，內容一般限定在體育、娛樂、職場、養老等領域。三人有4個“大號”，還有 500多個“小號”。每天發布1萬條帖文，內容五花八門，基本都是AI憑空捏造，有的幾萬次閱讀量，最高的一條能有十幾萬次。幾乎每發條信息，就有上萬人次網民被虛假信息蒙騙。

被查處后，王某某感到非常后悔。他表示，獲取流量應該有底線，不應該胡編亂造或者夸大其詞，不應該編造發布虛假信息。并表示，“做這個事沒有掙到什么錢，但卻要被法律嚴懲”。

目前，因涉嫌非法利用信息網絡罪，犯罪嫌疑人王某某、郭某某、石某某等3人已被上海靜安警方依法采取刑事強制措施，相關違法賬號被依法封禁，案件正在進一步偵辦中。

從網上采集“閱讀top”內容后用AI批量改寫

“這是常見‘流量經濟’劣化的表現形式。”上海網安總隊三隊隊長符斌表示，正常賬號吸粉、漲粉，都需要時間精力的投入，犯罪嫌疑人王某某、郭某某、石某某等3人為“走捷徑”，通過AI工具編造大量不實、虛假信息，幻想快速“養號”漲粉，以便后續直播帶貨等牟利。

利用AI工具造謠，是對網絡環境的一種劣化。為用AI工具批量生產虛假信息，王某某等3人找到了一個網絡平臺上的App作為素材庫，按照不同領域、“閱讀量top”、發布時間等，批量采集爆款內容。隨后用AI工具批量改寫，進行發布。而“張明遠”的“故事”就是這樣生成的。

據了解，為引起粉絲關注，王某某等3人會采集“閱讀top”內容，因為這些內容本身就是爆款。在用AI批量改寫時，他們會給AI工具輸入一些提示詞，比如“以原文實際情況為基礎，中心思想不變”，比如“第一句話要吸引人”等，以此來吸引更多點擊量。此外，他們還會利用AI工具的聯網版，讓它聯網搜索相關信息后，再進行整合。王某某表示，之前因用AI工具編造發布某過世女明星孩子撫養權問題，而被平臺扣分處理過。但為了貪圖利益，抱有僥幸心理。

王某某等人采集的都是短資訊內容，每篇約200至300字，幾乎不審核就直接發布。在利用AI工具對“張明遠”的“故事”進行捏造時，給出了“提高閱讀量”的附加條件，妄圖加入“流量密碼”。王某某等人表示，不僅自己沒看過這條“張明遠”發文的具體內容，甚至都不知道上海有家華山醫院，更不知道“張明遠”是誰。

應對AI謠言新挑戰需構建智能識別機制

中國政法大學數據法治研究院教授、中國法學會網絡與信息法學研究會副會長王立梅表示，當前AI謠言呈現出識別難度高、傳播控制難、誤導效應強、信任風險大等特點。面對技術迭代速度快、傳統辟謠機制難以及時應對的挑戰，需要構建快速響應、多方協同、機制迭代、公眾參與的治理模型。同時完善法規與技術標準，細化虛假有害信息的判定標準，強化行刑銜接與跨地區協作，提高編造虛假信息行為的量刑幅度，探索涉AI謠言的公益訴訟制度。

北京師范大學法學院博士生導師、中國互聯網協會研究中心副主任吳沈括表示，AI謠言具有高度逼真性，算法模型難以精準識別，易出現誤判或漏判現象，給網絡謠言的系統化治理帶來嚴峻挑戰。他建議，平臺應加強技術防控能力建設，構建高效的內容識別與過濾機制，運用人工智能等先進技術手段對虛假信息進行主動監測與攔截。此外，平臺還應嚴格落實內容審核責任，推動AI生成內容的顯著標識制度，確保用戶知情權。

“如今，AI謠言已經能夠定制化生成、精準化傳播和智能化擴散，這給警方的打擊治理帶來了新的挑戰。”上海公安網安部門相關負責人表示，公安機關對網絡謠言的發現和查處手段也在升級優化，以應對AI造謠的新挑戰。目前，公安機關與頭部平臺建立了暢通的工作聯動機制，不斷加強對AI造謠行為的智能識別機制研究，并進一步優化涉及AI內容的流量分發和收益分成機制，壓縮別有用心者批量生產謠言的牟利空間。

“今年以來，上海公安機關全力開展打擊整治網絡謠言專項工作，截至目前，已破獲造謠引流網絡水軍案件15起，抓獲違法犯罪嫌疑人38名。累計偵破涉企網絡謠言等違法犯罪案件百余起，為1.5萬多家企業提供了網絡安全服務保障。下一步，公安機關將持續依法嚴厲打擊網絡謠言，加強網絡生態治理，全力營造清朗有序的網絡環境。”上海公安網安部門相關負責人介紹說。

來源：“公安部網安局”微信公號