遇上“擦邊”，連AI都變味了。

聽筒Tech（tingtongtech）原創

文|小聽

編|饒 言

“AI很好很強大，但如果在使用的過程中變味，那就值得深思了。”

最近，沉迷AI寫真的90后林姐頗為感嘆，她直言，如今，社交平臺的各種AI寫真，頗為“辣眼睛”，“現在，我只要打開那些社交平臺，整個人都難受。”

“這種難受，是直接的視覺沖擊。”林姐直言，“直接跳出來的是各種AI美女，或行走在‘擦邊’上的AI帥哥，這和日常想象和見到的AI寫真相差甚遠。一點也不正常，‘辣眼睛’。”

而更普遍的是，打開小紅書、抖音等社交平臺，運營該類賬號的博主，發布的“職業裝小姐姐系列”、“泳裝系列”等，有的還在內容上打上“無不良引導”的標簽。

這在很多用戶看來，簡直“指鹿為馬”。一位網友甚至表示，“在社交平臺天天高喊嚴監管，積極構建優質內容生態的今天，自己卻仿佛回到了曾經那個看成人網站的年代。”

還有網友表示了強烈的質疑，“平臺對成人內容的放開，是否想過對未成年人的荼毒？”

而于更多的網友而言，他們不止一次對平臺感到失望。

小紅書重度用戶小然就表示，“每一次內容的擴容，小紅書似乎與‘擦邊’都會扯上關系。從旅游搭子事件到名媛培訓班，再到AI應用，形形色色不良引導的內容就沒干凈過。”

顯然，企業目標和內容操作的悖論，這很難讓用戶理解。

無論平臺審核標準是否精細，還是創作者利用了平臺機制的灰色地帶，亦或整個監管還存在漏洞，在“萬物AI”的時代，用戶需要的僅僅是一個干凈且高質量的內容生態。

實際上，監管部門對此高度重視。2025年3月5日，在十四屆全國人大三次會議首場“部長通道”上，國家市場監督管理總局表示，今年重點整治“大數據殺熟”、“主播惡意炒作”等內容。

或許，平臺是時候真正高度重視那些利用AI惡意制作的不良內容了。

“辣眼睛”的AI內容

林姐是一名90后，日常的工作就是新媒體運營，也會在社交平臺運營相關內容。在看到平臺很多人用AI拍寫真讓“老照片復活”，假裝在夏威夷群島旅游，嵌入多套造型和發型，實現百變造型“拍照片”后，林姐也想玩一玩AI。

按照經驗，林姐打開社交平臺先搜索AI拍寫真的教程，沒想到輸入“AI寫真”關鍵字后，跳出來的頁面居然大多數是“AI美女”和“AI帥哥”。

但讓林姐震驚的是，這些左下角標識“由AI生成”的照片，并不是傳統意義上的寫真。這些內容雖是AI合成，但無論男性女性，都衣著暴露，或展示身材，或做不雅舉動，整體給人的感覺就是“辣眼睛”。

讓林姐尤其不能理解的是，她是初次在社交平臺搜“AI寫真”，平時也對這類照片完全不感興趣，何以被大數據推送至該內容？

作為一位賽博原住民，林姐經歷了早期互聯網內容的野蠻時代。最早，林姐上網，網站隨處可見成人內容頁面，但她沒想到的是，“都2025年了，這些擦邊內容依然活躍在大眾面前。刷短視頻，就像在看那些成人網頁。”

習慣逛小紅書的小然，對此也深惡痛絕。

小然是一名00后，平日喜歡美妝和旅行，由此成為小紅書的常客。小然也是一名潮流新科技應用愛好者，在知曉“AI寫真”后，便在小紅書率先瀏覽關于“AI寫真”的博主使用和拍攝心得。

圖：社交平臺關于”AI寫真“的內容

來源：小紅書《左》、抖音（右）《聽筒Tech》截圖

“不看不知道，一看嚇一跳。”搜索“AI寫真”，小然的小紅書頁面瞬間被顯露身材的“美女”和“帥哥”霸占。

“他們是非典型性寫真。有的圖顯示‘疑似包含AI創作信息’，有‘浴袍’、‘健身OOTD’、‘跑馬的漢子’等等系列，但內容都直指‘擦邊’。”小然感慨，“這是小Hong書，還是小Huang書？”

曾經一度，在“旅行搭子”盛行的時候，小紅書就爆出存在“不良引導”新聞。小然也曾在小紅書找旅游搭子的時候，發現類似案例。

令小然沒想到的是，一直將高質量內容作為平臺標簽的小紅書，依然保持原來的樣子。尤其是，此前Tiktok因受封事件，小紅書一度在美登頂下載量第一，一大波海外紅人也入駐小紅書，連小然都引以為傲地表示，“不得不說，中國社交應用也算是在海外出息了。”

但如今，一個小小的體驗，再次讓小然感到失望，“有些無語，也有些看不上。如果一直保持這樣的內容生態水準，沒準自己會慢慢逃離這個平臺。”

據小然透露，實際上，不僅僅是小紅書，在抖音、快手、微信視頻號等社交平臺，同樣存在大量類似的內容。

小然表示，自從在抖音上搜索過“AI 寫真”后，他的推薦內容便“畫風大變”。如今，小然直呼，他的抖音賬號已經完全無法直視，“我是硬生生地將抖音刷成了青樓。”

快速起號，急于吸金

“AI瘋狂秀肌肉”，“真人越來越假，AI越來越真”，似乎慢慢成為最貼切的形容。

而運營這些“AI美女”賬號的博主，正在利用擦邊吸引力，快速起號并掘金。

在抖音，一些“AI美女”穿著暴露，在平臺不斷發布跳舞視頻，短短半年就漲粉100多萬。

據媒體報道，去年，抖音還有一名為“小姨妹”的博主，每條視頻都帶不同產品，價格一般在10元以內，但封面圖卻是AI生成的美女加上產品介紹，一度收獲超110萬粉絲。

甚至還有博主，將此視為下一個“撈偏門”的掘金賽道。在抖音，有不少博主一本正經講解，該“如何成為一個AI擦邊博主”。

圖：社交平臺關于”如何成為AI擦邊博主“的內容

來源：抖音《聽筒Tech》截圖

實際上，在小紅書，從2024年開始，平臺就出現了妝容精致、身材火辣的AI寫真美女快速起號。這些博主經常發布穿著泳衣在海邊度假，或者在時髦的街道拍照的美女照片，點贊量超過幾千。

以坐標浙江的某博主為例，其認證“設計服務公司”，服務涉及“數字視頻和數字寫真”，從2024年3月開始發布第一條筆記，內容多為擦邊，涉及“純欲風”、“御姐風”等。截至目前，其粉絲超3.6萬，獲贊與收藏超20萬。

實際上，在平臺早期，很多人通過簡單的“拍一拍、寫一寫”就能收獲不錯的流量。但隨著平臺內容生態的逐漸成熟，內容分發機制越來越依賴算法邏輯，而非單純的運氣。

一位小紅書運動博主亦向《聽筒Tech（ID:Tingtongtech）》透露，她的內容如果“稍微擦點邊”，流量便比正常發布的內容要好。

在該運動博主看來，雖然平臺并未承認過“擦邊內容能夠吸流”，但經過她的多次嘗試，至少在她看來，“擦邊的內容，流量遠比正常發布的內容要高。”

該運動博主表示，不僅僅是小紅書，在抖音、快手、微信視頻號等短視頻平臺，同樣存在類似的問題，“我在這幾個短視頻平臺都嘗試過發泳裝AI短視頻，流量非常好。”但考慮到她的運動IP形象，她最終沒有走該風格。

一名在社交平臺擔任運營工作的內部人士也向《聽筒Tech》表示，一般來說，內部生態會給到特定內容的流量支持，在平臺的扶持下的快速起號。

上述內部人士表示，“流量支持的參考標準，包括關鍵詞匹配、興趣推薦，以及互動和停留時間等不同參考維度。比如，用戶的點贊、收藏、評論，以及在筆記上的停留時間，直接決定了內容是否會被推薦給更多人。”

這也造成這樣一個誤區， 很多人以為爆款內容是“隨機的”，但實際上，爆款背后都有清晰的流量邏輯。當然，上述內部人士亦表示，“刷流”也是重要的推流手段。

針對“上述野蠻生長的AI擦邊寫真，是否存在一定意義上的扶持”，上述人士表示，“這并不好說，但平臺的算法問題肯定存在。”

是時候高度重視了

無論是大量擦邊AI寫真內容的存在，還是兜售AI擦邊生意的賣課行為，這背后都直指一個問題，平臺監管存在漏洞。

而這已不是第一次出現。

以小紅書為例，在過去的幾年里，平臺涉黃、違規交易等都曾掀起過輿論焦點。

2020年11月，小紅書被曝出推送大尺度美女裸露照片和視頻，內容露骨且包含暗示性。2021年9月，央視曝光小紅書存在大量泄露未成年人身體隱私的視頻。

更廣為人知的，2023年8月，一篇題為《小紅書“旅游搭子費用全包”涉黃了》的文章在網上引發軒然大波，稱小紅書上的旅游搭子筆記，打著”找搭子“旗號，實則涉及性交易。

盡管，每次小紅書都表示將進行調查和處理，但實際效果卻并不理想。

即便時間走到2025年，面對TikTok“面臨封禁”期間，海量美國用戶投向小紅書，幾乎在一夜之間，小紅書平臺就出現了大量海外博主擦邊信息和照片。

這再次暴露了小紅書內容生態監管的薄弱。而彼時，有業內人士表示，小紅書真的需要進一步細化審核標準了，以適應不同法律環境下的內容監管要求，避免因內容違規而引發的法律風險。

小紅書也不是沒有行動。今年2月13日，小紅書官方賬號“薯管家”發布公告，稱從去年12月至今，治理團隊對美妝個護、食品、3C數碼、生活服務等15個行業、1695個存在違規營銷行為品牌進行了處罰。

但從目前的情況來看，小紅書似乎有點“心有余而力不足”。

而抖音方面，盡管也進行了多次對“涉黃”等相關內容進行監管，但截至目前，依然無法有效改善平臺的生態。

實際上，這種反復出現的問題不僅損害了平臺的形象和聲譽，更讓用戶對其信任度大打折扣。尤其是，在監管日益嚴格的今天，平臺如何有效遏制不良內容的傳播，仍成為亟待解決的問題。

不過，一位算法工程師告訴《聽筒Tech》，“實際上，各大主流App，也都推出了AI標識功能，而且也在加強對AI圖片、視頻的審核。但從目前的情況來看，效果一般。尤其是面對越來越先進的AI工具，有時連平臺也無法真正判別出來。”

當然，對此，國家方面也有了一定的動作。2024年9月，網信辦發布了關于《人工智能生成合成內容標識辦法（征求意見稿）》征求意見通知，要求平臺和服務提供者，對AI生成內容明確標識，比如添加水印。

但這仍需要平臺端的大力支持。

此前，中國社會科學院大學法學院副教授、互聯網法治研究中心主任劉曉春表示，“為防止平臺利用AI涉及暴力、侮辱性內容的輸出，可采取不同的技術手段。在輸出端，服務商應進行篩選和再次審查。”

不過，面對用戶的種種質疑，平臺的監管力度明顯仍有欠缺。至少目前來說，這無法改變用戶對平臺和整個生態的不信任。

“你美得像AI”，對女生來說，這是一種讓人難以抗拒的贊美。AI科技的進步不可逆轉，相關應用也確實讓人們的生活更美好。

“但僅從擦邊寫真方面來看，如果我們或者我們的下一代，仍被各種隨處可見的色情內容和低級趣味所喂養，那大概是人類為科技進步和平臺的逐利行為，所付出的慘痛的代價。”小然直言。

“我們仍期待AI向善，不要被惡意利用。”在小然和林姐看來，“我們不是批評平臺，我們更希望平臺能夠加強監管，還網友一個真正純凈的空間。”

而這些，都建立在平臺、技術、監管部門和整個社會對內容生產保持基本的尊重和敬畏的基礎之上。

（文中均為化名。）

（頭圖由AI生成。）

（聲明：本文僅作為信息交流，不構成任何投資參考建議。）