2025年6月12日，小紅書在北京舉辦了打擊“虛假”治理開放日活動，屆時，財視傳媒受邀來到了活動現(xiàn)場。活動中，小紅書虛假內(nèi)容治理負(fù)責(zé)人蒂法與小紅書黑灰產(chǎn)治理負(fù)責(zé)人必行，分別就大家關(guān)心的多個問題進(jìn)行的分享。

據(jù)蒂法分享，2025年上半年小紅書打擊了320萬的虛假筆記、1萬的虛假人設(shè)賬號、以及60萬的低質(zhì)AIGC筆記。

在識別虛假內(nèi)容方面蒂法表示，用戶表達(dá)個人感受和看法的內(nèi)容是不具備客觀信息傳遞過程的，所以不會去做真實性判斷。在涉及客觀信息的內(nèi)容時，小紅書建立了一套“前置攔截、事中追蹤、分析回掃”的全面治理體系，并上線了內(nèi)容信息量模型，筆記摘要提取模型，AIGC謠言診斷模型等15個識別大模型，并建立了真實信源庫和謠言庫，實現(xiàn)了對虛假內(nèi)容的實時攔截和批量回掃。

1、內(nèi)容信息量模型，主要幫助區(qū)分出哪些內(nèi)容是需要進(jìn)行真實性判斷的，這個模型會過濾掉一些個人觀點內(nèi)容。

2、筆記摘要提取模型，該模型會基于一條內(nèi)容，快速提取出時間、地點、人物、事件等重要信息，為后續(xù)的真實性比對提升效。

3、AI謠言診斷模型，這會基于AIGC的技術(shù)手段，收集全網(wǎng)信息輔助判斷謠言信息。

4、小紅書建立了信源庫和謠言庫。信源庫中會會收錄真實的內(nèi)容，謠言庫中會收錄虛假內(nèi)容，關(guān)于內(nèi)容的真實性判斷，有一部分來源于權(quán)威媒體發(fā)言。

一條筆記發(fā)布后會先過到內(nèi)容信息量模型去判斷是否需要真實性判斷，如果需要就會走到筆記摘要提取模型環(huán)節(jié)進(jìn)行摘要拆解，然后會到信源庫中進(jìn)行比對，如果有不匹配的情況則大概率會被認(rèn)定為虛假內(nèi)容。

蒂法在分享中指出，其實也有很多內(nèi)容是不具備和信源庫進(jìn)行匹配的能力的，因為信源庫中大多收錄的是國家大事或重大事件，一些例如某地新開某店的事件一般不會記錄。這類內(nèi)容主要是依賴用戶的舉報，用戶會在帖子下留言是虛假或者是舉報筆記，這樣就會進(jìn)入到人工審核環(huán)節(jié)，人審的同學(xué)最后會結(jié)合AI模型進(jìn)行一個最終的判斷。

圖源：官方提供

針對企業(yè)伙伴，小紅書也上線了“爭議性標(biāo)簽”和“限時加私”功能，有效保護(hù)企業(yè)降低虛假信息的影響。

在虛假人設(shè)治理方面，小紅書采用了四大步驟：

1、完善賬號準(zhǔn)入制度，對可能涉及虛假人設(shè)的重點領(lǐng)域賬號，要求提供更詳細(xì)的身份信息和資質(zhì)證明。

2、內(nèi)容前置審核，識別可能存在虛假人設(shè)的線索，如內(nèi)容中是否存在夸大、虛構(gòu)身份或經(jīng)歷的表述，是否與已有真實信息存在矛盾等。

3、上線多個識別模型，檢測內(nèi)容中是否存在偽造場景、合成圖片、虛假特效等問題。

4、算法挖掘賬號網(wǎng)關(guān)系，通過算法，挖掘賬號之間的關(guān)聯(lián)關(guān)系，進(jìn)一步印證身份是否真實。

活動現(xiàn)場，小紅書黑灰產(chǎn)治理負(fù)責(zé)人必行為大家分享了小紅書黑灰產(chǎn)治理的應(yīng)對策略，針對黑灰產(chǎn)生產(chǎn)內(nèi)容同質(zhì)化嚴(yán)重的特點，小紅書上線了50多種模型，強(qiáng)化賬號、筆記、評論文本三維相似度識別。同時也實施了實名認(rèn)證解凍策略，對高危賬號先凍結(jié)，完成驗證后解凍，極大程度提升了作惡成本。

圖源：官方提供

在線上治理的同時，小紅書案件調(diào)查團(tuán)隊還向多地警方和市場監(jiān)督部門積極提供線索，對黑灰產(chǎn)團(tuán)伙進(jìn)行線下打擊。目前有7起案件在偵辦中，后續(xù)警方和市場監(jiān)督部門將根據(jù)調(diào)查結(jié)果采取各種處罰措施，涉及犯罪行為的還將進(jìn)一步追究刑事責(zé)任。

截至目前，小紅書黑灰產(chǎn)治理行動累計封禁賬號1000萬+，實現(xiàn)了黑灰產(chǎn)賬號曝光次數(shù)減少80%。

現(xiàn)場的問答環(huán)節(jié)，財視傳媒進(jìn)行了提問：“接到虛假和灰產(chǎn)舉報后，小紅書的處理流程是怎樣的？”

蒂法介紹：接到虛假舉報后，首先是機(jī)審流程，因為舉報量比較大所以由模型先判斷，隨后部分內(nèi)容會進(jìn)入人審環(huán)節(jié)，會對內(nèi)容進(jìn)行針對性判斷。這種判斷也不是純個人判斷，因為每個人有自己的局限性，所以在舉報環(huán)節(jié)也借助了AI，AI先去搜集筆記有關(guān)的內(nèi)容，審核會相應(yīng)去了解可供參考的信息源，也會用AI關(guān)鍵信息提取來幫助工作，最終做出判斷。”