近日，小紅書(shū)持續(xù)推進(jìn) “清朗?整治 AI 技術(shù)濫用” 專項(xiàng)治理工作，引發(fā)廣泛關(guān)注。 繼公布2025上半年以來(lái)，小紅書(shū)官方賬號(hào)署管家也于6月20日第3次發(fā)布了《清朗·整治AI技術(shù)濫用”專項(xiàng)治理公告》，明確將營(yíng)銷AI群控軟件、利用AI技術(shù)假冒某主播、制造直播虛假流量、生成謠言以博取流量等納入AI違規(guī)治理行列。

其實(shí)，署管家最早發(fā)布《關(guān)于整治AI技術(shù)濫用的治理公告》是在5月12日。當(dāng)時(shí)的重點(diǎn)聚焦于利用AI批量生產(chǎn)虛假內(nèi)容漲粉、利用AI起號(hào)引流帶貨、售賣AI起號(hào)課程、售賣AI賬號(hào)等違規(guī)行為。同時(shí)嚴(yán)厲打擊轉(zhuǎn)讓、售賣、出租網(wǎng)絡(luò)賬號(hào)行為，強(qiáng)化AI生成內(nèi)容監(jiān)測(cè)甄別。

在具體執(zhí)行中，平臺(tái)針對(duì) “利用AI生成低俗獵奇視頻”“AI生成虛擬外國(guó)幼兒教育專家教授育兒內(nèi)容”“AI視頻賬號(hào)售賣教程”“AI賬號(hào)秘籍傳授”“引導(dǎo)規(guī)避平臺(tái) AI標(biāo)注”“轉(zhuǎn)讓、銷售AI虛擬賬號(hào)” 等各類違規(guī)內(nèi)容加強(qiáng)排查清理。

到了6月13日，小紅書(shū)在專項(xiàng)整治上取得進(jìn)一步階段性成果。此時(shí)，再次發(fā)布的《關(guān)于整治AI技術(shù)濫用的公告》則表明平臺(tái)重點(diǎn)打擊范圍拓展至違規(guī)AI換臉、AI 換聲等侵犯他人權(quán)益的產(chǎn)品、服務(wù)和教程。在落實(shí) AI 內(nèi)容標(biāo)識(shí)要求方面，站內(nèi)提供多渠道AI標(biāo)識(shí)路徑。

數(shù)據(jù)顯示，截至當(dāng)時(shí)，平臺(tái)針對(duì)傳授違規(guī)AI產(chǎn)品教程及商品內(nèi)容，已處置筆記近六千條，對(duì)近百個(gè)風(fēng)險(xiǎn)賬戶采取限流、封禁等處置措施。

不僅如此，小紅書(shū)還攜手多個(gè)企業(yè)推動(dòng)AI標(biāo)識(shí)的技術(shù)實(shí)踐，完善AI內(nèi)容識(shí)別和溯源的治理鏈條，積極為行業(yè)貢獻(xiàn)治理經(jīng)驗(yàn)。

而6月20日發(fā)布的《“清朗·整治AI技術(shù)濫用”專項(xiàng)治理公告》，則公示了近期的違規(guī)典型案例：

用戶 “播 *********）”違規(guī)推薦營(yíng)銷AI群控軟件，制造直播虛假流量；

用戶 “輝*品”違規(guī)利用AI技術(shù)假冒某主播違規(guī)營(yíng)銷帶貨產(chǎn)品；

用戶 “D****”違規(guī)使用AI軟件生成謠言以博取流量；

用戶 “小*生”違規(guī)使用AI軟件生成低俗擦邊內(nèi)容。

針對(duì)這些案例，平臺(tái)均果斷下架相關(guān)內(nèi)容，并依據(jù)違規(guī)情節(jié)對(duì)賬號(hào)作出關(guān)閉或禁言處置。

至此，小紅書(shū)已明確以下這四類AI相關(guān)產(chǎn)品、課程、技術(shù)、內(nèi)容均屬違規(guī)：

第一，違規(guī)AI技術(shù)工具與服務(wù)：包括AI群控軟件、違規(guī)AI換臉 / 換聲工具等侵犯他人權(quán)益的技術(shù)產(chǎn)品，以及推薦、售賣此類工具的行為。

第二，虛假與低俗內(nèi)容生成：利用AI批量生產(chǎn)謠言、虛假科普、低俗擦邊內(nèi)容，或偽造虛擬身份（如 “虛擬外國(guó)幼兒教育專家”）進(jìn)行內(nèi)容創(chuàng)作。

第三，違規(guī)賬號(hào)運(yùn)營(yíng)與商業(yè)營(yíng)銷：通過(guò)AI起號(hào)引流帶貨、售賣AI賬號(hào)/起號(hào)課程、轉(zhuǎn)讓AI虛擬賬號(hào)，以及利用AI假冒他人（如主播）進(jìn)行營(yíng)銷帶貨。

第四，規(guī)避平臺(tái)治理的行為：引導(dǎo)用戶規(guī)避AI內(nèi)容標(biāo)注、傳授違規(guī)AI產(chǎn)品使用教程，或制造直播虛假流量（如通過(guò)AI群控軟件）。

綜合來(lái)看，這一個(gè)多月來(lái)，小紅書(shū)的治理重點(diǎn)已從AI起號(hào)、引流、售賣賬號(hào)課程等基礎(chǔ)違規(guī)行為，逐漸拓展到侵犯他人權(quán)益的AI應(yīng)用以及AI內(nèi)容標(biāo)識(shí)落實(shí)等方面。

但不少網(wǎng)友表示，小紅書(shū)社區(qū)生態(tài)內(nèi)充斥著AI生成的批量照片、內(nèi)容，甚至用AI圖換攝影照片進(jìn)行詐騙，治理力度應(yīng)該更大。并且，在從嚴(yán)治理的過(guò)程中減少對(duì)原創(chuàng)作者的誤傷，提高AI內(nèi)容識(shí)別能力，也是用戶關(guān)注的重點(diǎn)。

圖片來(lái)源于6月20日發(fā)布的

《“清朗·整治AI技術(shù)濫用”專項(xiàng)治理公告》評(píng)論區(qū)

對(duì)此，你怎么看？哪類AI內(nèi)容或賬號(hào)在小紅書(shū)上出現(xiàn)最多？哪些違規(guī)未被納入治理范圍？

歡迎在評(píng)論區(qū)留言，說(shuō)說(shuō)你的看法。

對(duì)了，見(jiàn)實(shí)發(fā)起了一個(gè)新策劃：2025專題報(bào)道困惑及新基建、新機(jī)會(huì)，歡迎一起！

PS.

掃碼加我，免費(fèi)送你1份價(jià)值199元的2025年私域增長(zhǎng)最新趨勢(shì)洞察報(bào)告!

歡迎加入見(jiàn)實(shí)會(huì)員（點(diǎn)擊下方按鈕），參與前往各大品牌的私域游學(xué)和私享會(huì)，及獲取私域大會(huì)PPT和直播回放、在線課程、40+主題白皮書(shū)等一手資料。

↘私域服務(wù)對(duì)接