6月12日，小紅書在北京舉辦"打擊虛假"治理開放日，公布2025年上半年社區虛假內容治理成果：通過建設虛假內容全鏈路治理體系，共處置虛假筆記320萬篇，處置虛假人設賬號1萬個，處置虛假低質AIGC筆記60萬篇；通過持續建設"同質化識別"能力，全面提升處置手段，升級機器對抗，共封禁批量造假黑灰產賬號超1000萬個。

小紅書等網絡平臺大力打擊虛假內容，凸顯了虛假內容對網絡社區健康發展的嚴峻現實。虛假內容擾亂了網絡社區的清朗環境，給用戶接收和尋找信息時帶來困擾，也對品牌商家的商譽產生負面影響。而其中批量造假的黑灰產賬號，通過虛假、重復、低質內容騙取用戶流量；養號漲粉后又發布虛假、惡意營銷內容不當牟利，對網絡社區生態秩序造成格外大的危害，亟須依法依規進行綜合治理，有針對性地予以嚴厲打擊。

有關職能部門、監管執法部門對打擊虛假內容、黑灰產惡意營銷高度重視，多次部署專門專項治理行動。如2024年1月，中央網信辦開展"清朗·2024年春節網絡環境整治"專項行動，整治重點之一為"炮制虛假信息、惡意營銷炒作問題"。2024年8月，中央網信辦開展"清朗·網絡直播領域虛假和低俗亂象整治"專項行動，整治重點之一為"編造虛假場景人設，無底線帶貨營銷"。今年4月，中央網信辦開展"清朗·整治短視頻領域惡意營銷亂象"專項行動，從嚴打擊惡意虛假擺拍、散布虛假信息、違規引流營銷等惡意營銷亂象。

網絡平臺作為互聯網生態的"中樞機構"，對互聯網生態建設和平臺治理負有重要的主體責任，依法打擊虛假內容，嚴懲炮制虛假信息、編造虛假場景人設、惡意虛假擺拍等行為，就是平臺履行治理主體責任的一個重要方面。具體到小紅書這樣的"普通人創作內容"社區平臺，"分享真實的內容"和"真誠分享"既是平臺用戶自發形成的內容創作準則，也是社區平臺的核心價值觀。因此，打擊虛假、提倡真實既是社區平臺持續健康發展的內在要求，也是社區平臺履行治理主體責任的必然選擇。

打擊虛假內容解決了"必須打"的問題，還要解決"怎么打"的問題。后者又分為兩個方面：一是充分發揮社區平臺在技術上、機制上的特色優勢，對虛假內容"零容忍"，對黑灰產等不當牟利行為露頭就打。據小紅書相關負責人介紹，針對虛假不實內容、虛假人設和生成式人工智能（AIGC）造假等三個造假重災區，小紅書制定了相應的打假策略。如在虛假不實內容治理方面，建構了"前置攔截、事中追蹤、分析回掃"全鏈路治理體系，上線了內容信息量模型、筆記摘要提取模型等15個識別大模型，建立了真實信源庫和謠言庫，實現了對虛假內容的實時攔截和批量回掃。而針對批量造假的黑灰產賬號，上線50多個模型，建立了以"同質化識別"為核心的風控體系，將對黑灰產的識別召回率提升了72%。

其二，要持續加大對涉打擊虛假內容的技術研發、模式創新和人才培養的投入，確保打假技術進步、模式優化和人才發展走在造假者的前面。這方面工作亟須引起高度重視，成為網絡平臺特別是內容社區平臺完善綜合治理、推進高質量發展的基礎性保障。

網絡平臺對虛假內容治理負有重要主體責任，但必須明確，打擊虛假內容僅靠平臺是不夠的，而且僅靠一兩家平臺也是不夠的。遏制互聯網虛假內容快速增長泛濫，需要各平臺聯手共治、協同合作、精準打擊，需要全社會共同參與、提高認識、積極履責。對內容社區平臺而言，用戶作為內容創作的主體，實際上也是社區的主人，因此尤其需要通過打擊虛假內容，讓社區平臺和用戶緊密團結起來，共筑社區平臺生態良性健康發展的堅實屏障。

文/姜兆尹

編輯/汪浩舟