近 日，小紅書公布2025年上半年打擊「虛假」階段性成果。數據顯示，從1月截止到6月10日，平臺已累計封禁黑灰產賬號超1000萬個，處置虛假筆記320萬篇、虛假人設賬號1萬個，其中AIGC造假內容治理成為重點，上線了AIGC謠言診斷模型，半年內攔截低質AI筆記60萬篇。（背景：5月，）

在上半年的治理中，針對AIGC技術引發的虛假筆記泛濫問題，小紅書推出以下多層治理措施：

第一，明確AIGC內容顯著標識：要求創作者主動對AIGC內容進行聲明，并進行顯著標識。對未聲明AIGC的內容進行標識，幫助用戶識別AIGC內容。持續簡化打標流程，鼓勵創作者利用新技術進行內容創新，也積極參與到生態建設中。

第二，上線音畫識別模型，多維度識別AIGC。通過分析圖像像素分布規律等識別AIGC合成痕跡；對音頻的音色、語調等特征進行深度分析，挖掘可能存在機械化表達等。

第三，細化賬號分級處罰機制。根據賬號發布 AIGC 造假內容的性質、影響、范圍和違規頻次，制定階梯式處罰標準，結合同設備關聯關系對相關作惡賬號一并追溯處罰。

第四，設置流量門檻，減少低質AI內容曝光。低質量AIGC內容到達一定曝光閾值，將停止推薦。

除此外，也對批量造假的黑灰產賬號進行了重點打擊。

黑灰產治理面臨這些挑戰：賬號注冊環節使用虛擬號碼與群控系統批量、精細操作，內容層面通過符號縮寫、黑話變體規避審核，違規場景從公開筆記向群聊、私信等私域轉移。

對此，小紅書升級機器對抗系統，將風險賬號判罰時間縮短至實時處置，有效應對“黑產變體快且多”的特性。同時，針對黑灰產賬號建立“同質化識別”風控體系，上線50+識別模型，實現賬號、筆記、評論文本三維相似度檢測。

值得關注的是，小紅書推出“實名認證解凍”機制，對高危賬號先凍結后驗證，完成驗證后解凍，顯著提升黑產作惡成本。線下層面，小紅書已向警方提供線索并推動7起典型案件偵辦，形成“線上技術攔截+線下司法打擊”的閉環治理模式。

小紅書明確，在治理中，用戶參與共治成為治理效率提升的關鍵。2025年上半年，虛假內容舉報量同比增長40%。通過優化審核流程，被舉報內容平均審核時長同比減少25%，預計接入大模型后年底將再縮短10%。

最后，小紅書還披露了下半年用戶共治計劃。將簡化舉報流程實現“一頁提交”，引入部分用戶內容標注功能，計劃推出“熱榜辟謠卡”讓用戶辟謠內容登上熱榜。

對此，你怎么看？有舉報過虛假筆記或低質AI內容嗎？歡迎在評論區留言，說說你的看法。

PS.

掃碼加我，免費送你1份價值199元的2025年私域增長最新趨勢洞察報告!

歡迎加入見實會員（點擊下方按鈕），參與前往各大品牌的私域游學和私享會，及獲取私域大會PPT和直播回放、在線課程、40+主題白皮書等一手資料。

↘私域服務對接