遇上“擦邊”，連AI都變味了。

聽筒Tech（tingtongtech）原創(chuàng)

文|小聽

編|饒 言

“AI很好很強(qiáng)大，但如果在使用的過程中變味，那就值得深思了。”

最近，沉迷AI寫真的90后林姐頗為感嘆，她直言，如今，社交平臺的各種AI寫真，頗為“辣眼睛”，“現(xiàn)在，我只要打開那些社交平臺，整個人都難受。”

“這種難受，是直接的視覺沖擊。”林姐直言，“直接跳出來的是各種AI美女，或行走在‘擦邊’上的AI帥哥，這和日常想象和見到的AI寫真相差甚遠(yuǎn)。一點(diǎn)也不正常，‘辣眼睛’。”

而更普遍的是，打開小紅書、抖音等社交平臺，運(yùn)營該類賬號的博主，發(fā)布的“職業(yè)裝小姐姐系列”、“泳裝系列”等，有的還在內(nèi)容上打上“無不良引導(dǎo)”的標(biāo)簽。

這在很多用戶看來，簡直“指鹿為馬”。一位網(wǎng)友甚至表示，“在社交平臺天天高喊嚴(yán)監(jiān)管，積極構(gòu)建優(yōu)質(zhì)內(nèi)容生態(tài)的今天，自己卻仿佛回到了曾經(jīng)那個看成人網(wǎng)站的年代。”

還有網(wǎng)友表示了強(qiáng)烈的質(zhì)疑，“平臺對成人內(nèi)容的放開，是否想過對未成年人的荼毒？”

而于更多的網(wǎng)友而言，他們不止一次對平臺感到失望。

小紅書重度用戶小然就表示，“每一次內(nèi)容的擴(kuò)容，小紅書似乎與‘擦邊’都會扯上關(guān)系。從旅游搭子事件到名媛培訓(xùn)班，再到AI應(yīng)用，形形色色不良引導(dǎo)的內(nèi)容就沒干凈過。”

顯然，企業(yè)目標(biāo)和內(nèi)容操作的悖論，這很難讓用戶理解。

無論平臺審核標(biāo)準(zhǔn)是否精細(xì)，還是創(chuàng)作者利用了平臺機(jī)制的灰色地帶，亦或整個監(jiān)管還存在漏洞，在“萬物AI”的時代，用戶需要的僅僅是一個干凈且高質(zhì)量的內(nèi)容生態(tài)。

實(shí)際上，監(jiān)管部門對此高度重視。2025年3月5日，在十四屆全國人大三次會議首場“部長通道”上，國家市場監(jiān)督管理總局表示，今年重點(diǎn)整治“大數(shù)據(jù)殺熟”、“主播惡意炒作”等內(nèi)容。

或許，平臺是時候真正高度重視那些利用AI惡意制作的不良內(nèi)容了。

“辣眼睛”的AI內(nèi)容

林姐是一名90后，日常的工作就是新媒體運(yùn)營，也會在社交平臺運(yùn)營相關(guān)內(nèi)容。在看到平臺很多人用AI拍寫真讓“老照片復(fù)活”，假裝在夏威夷群島旅游，嵌入多套造型和發(fā)型，實(shí)現(xiàn)百變造型“拍照片”后，林姐也想玩一玩AI。

按照經(jīng)驗(yàn)，林姐打開社交平臺先搜索AI拍寫真的教程，沒想到輸入“AI寫真”關(guān)鍵字后，跳出來的頁面居然大多數(shù)是“AI美女”和“AI帥哥”。

但讓林姐震驚的是，這些左下角標(biāo)識“由AI生成”的照片，并不是傳統(tǒng)意義上的寫真。這些內(nèi)容雖是AI合成，但無論男性女性，都衣著暴露，或展示身材，或做不雅舉動，整體給人的感覺就是“辣眼睛”。

讓林姐尤其不能理解的是，她是初次在社交平臺搜“AI寫真”，平時也對這類照片完全不感興趣，何以被大數(shù)據(jù)推送至該內(nèi)容？

作為一位賽博原住民，林姐經(jīng)歷了早期互聯(lián)網(wǎng)內(nèi)容的野蠻時代。最早，林姐上網(wǎng)，網(wǎng)站隨處可見成人內(nèi)容頁面，但她沒想到的是，“都2025年了，這些擦邊內(nèi)容依然活躍在大眾面前。刷短視頻，就像在看那些成人網(wǎng)頁。”

習(xí)慣逛小紅書的小然，對此也深惡痛絕。

小然是一名00后，平日喜歡美妝和旅行，由此成為小紅書的常客。小然也是一名潮流新科技應(yīng)用愛好者，在知曉“AI寫真”后，便在小紅書率先瀏覽關(guān)于“AI寫真”的博主使用和拍攝心得。

圖：社交平臺關(guān)于”AI寫真“的內(nèi)容

來源：小紅書《左》、抖音（右）《聽筒Tech》截圖

“不看不知道，一看嚇一跳。”搜索“AI寫真”，小然的小紅書頁面瞬間被顯露身材的“美女”和“帥哥”霸占。

“他們是非典型性寫真。有的圖顯示‘疑似包含AI創(chuàng)作信息’，有‘浴袍’、‘健身OOTD’、‘跑馬的漢子’等等系列，但內(nèi)容都直指‘擦邊’。”小然感慨，“這是小Hong書，還是小Huang書？”

曾經(jīng)一度，在“旅行搭子”盛行的時候，小紅書就爆出存在“不良引導(dǎo)”新聞。小然也曾在小紅書找旅游搭子的時候，發(fā)現(xiàn)類似案例。

令小然沒想到的是，一直將高質(zhì)量內(nèi)容作為平臺標(biāo)簽的小紅書，依然保持原來的樣子。尤其是，此前Tiktok因受封事件，小紅書一度在美登頂下載量第一，一大波海外紅人也入駐小紅書，連小然都引以為傲地表示，“不得不說，中國社交應(yīng)用也算是在海外出息了。”

但如今，一個小小的體驗(yàn)，再次讓小然感到失望，“有些無語，也有些看不上。如果一直保持這樣的內(nèi)容生態(tài)水準(zhǔn)，沒準(zhǔn)自己會慢慢逃離這個平臺。”

據(jù)小然透露，實(shí)際上，不僅僅是小紅書，在抖音、快手、微信視頻號等社交平臺，同樣存在大量類似的內(nèi)容。

小然表示，自從在抖音上搜索過“AI 寫真”后，他的推薦內(nèi)容便“畫風(fēng)大變”。如今，小然直呼，他的抖音賬號已經(jīng)完全無法直視，“我是硬生生地將抖音刷成了青樓。”

快速起號，急于吸金

“AI瘋狂秀肌肉”，“真人越來越假，AI越來越真”，似乎慢慢成為最貼切的形容。

而運(yùn)營這些“AI美女”賬號的博主，正在利用擦邊吸引力，快速起號并掘金。

在抖音，一些“AI美女”穿著暴露，在平臺不斷發(fā)布跳舞視頻，短短半年就漲粉100多萬。

據(jù)媒體報(bào)道，去年，抖音還有一名為“小姨妹”的博主，每條視頻都帶不同產(chǎn)品，價格一般在10元以內(nèi)，但封面圖卻是AI生成的美女加上產(chǎn)品介紹，一度收獲超110萬粉絲。

甚至還有博主，將此視為下一個“撈偏門”的掘金賽道。在抖音，有不少博主一本正經(jīng)講解，該“如何成為一個AI擦邊博主”。

圖：社交平臺關(guān)于”如何成為AI擦邊博主“的內(nèi)容

來源：抖音《聽筒Tech》截圖

實(shí)際上，在小紅書，從2024年開始，平臺就出現(xiàn)了妝容精致、身材火辣的AI寫真美女快速起號。這些博主經(jīng)常發(fā)布穿著泳衣在海邊度假，或者在時髦的街道拍照的美女照片，點(diǎn)贊量超過幾千。

以坐標(biāo)浙江的某博主為例，其認(rèn)證“設(shè)計(jì)服務(wù)公司”，服務(wù)涉及“數(shù)字視頻和數(shù)字寫真”，從2024年3月開始發(fā)布第一條筆記，內(nèi)容多為擦邊，涉及“純欲風(fēng)”、“御姐風(fēng)”等。截至目前，其粉絲超3.6萬，獲贊與收藏超20萬。

實(shí)際上，在平臺早期，很多人通過簡單的“拍一拍、寫一寫”就能收獲不錯的流量。但隨著平臺內(nèi)容生態(tài)的逐漸成熟，內(nèi)容分發(fā)機(jī)制越來越依賴算法邏輯，而非單純的運(yùn)氣。

一位小紅書運(yùn)動博主亦向《聽筒Tech（ID:Tingtongtech）》透露，她的內(nèi)容如果“稍微擦點(diǎn)邊”，流量便比正常發(fā)布的內(nèi)容要好。

在該運(yùn)動博主看來，雖然平臺并未承認(rèn)過“擦邊內(nèi)容能夠吸流”，但經(jīng)過她的多次嘗試，至少在她看來，“擦邊的內(nèi)容，流量遠(yuǎn)比正常發(fā)布的內(nèi)容要高。”

該運(yùn)動博主表示，不僅僅是小紅書，在抖音、快手、微信視頻號等短視頻平臺，同樣存在類似的問題，“我在這幾個短視頻平臺都嘗試過發(fā)泳裝AI短視頻，流量非常好。”但考慮到她的運(yùn)動IP形象，她最終沒有走該風(fēng)格。

一名在社交平臺擔(dān)任運(yùn)營工作的內(nèi)部人士也向《聽筒Tech》表示，一般來說，內(nèi)部生態(tài)會給到特定內(nèi)容的流量支持，在平臺的扶持下的快速起號。

上述內(nèi)部人士表示，“流量支持的參考標(biāo)準(zhǔn)，包括關(guān)鍵詞匹配、興趣推薦，以及互動和停留時間等不同參考維度。比如，用戶的點(diǎn)贊、收藏、評論，以及在筆記上的停留時間，直接決定了內(nèi)容是否會被推薦給更多人。”

這也造成這樣一個誤區(qū)， 很多人以為爆款內(nèi)容是“隨機(jī)的”，但實(shí)際上，爆款背后都有清晰的流量邏輯。當(dāng)然，上述內(nèi)部人士亦表示，“刷流”也是重要的推流手段。

針對“上述野蠻生長的AI擦邊寫真，是否存在一定意義上的扶持”，上述人士表示，“這并不好說，但平臺的算法問題肯定存在。”

是時候高度重視了

無論是大量擦邊AI寫真內(nèi)容的存在，還是兜售AI擦邊生意的賣課行為，這背后都直指一個問題，平臺監(jiān)管存在漏洞。

而這已不是第一次出現(xiàn)。

以小紅書為例，在過去的幾年里，平臺涉黃、違規(guī)交易等都曾掀起過輿論焦點(diǎn)。

2020年11月，小紅書被曝出推送大尺度美女裸露照片和視頻，內(nèi)容露骨且包含暗示性。2021年9月，央視曝光小紅書存在大量泄露未成年人身體隱私的視頻。

更廣為人知的，2023年8月，一篇題為《小紅書“旅游搭子費(fèi)用全包”涉黃了》的文章在網(wǎng)上引發(fā)軒然大波，稱小紅書上的旅游搭子筆記，打著”找搭子“旗號，實(shí)則涉及性交易。

盡管，每次小紅書都表示將進(jìn)行調(diào)查和處理，但實(shí)際效果卻并不理想。

即便時間走到2025年，面對TikTok“面臨封禁”期間，海量美國用戶投向小紅書，幾乎在一夜之間，小紅書平臺就出現(xiàn)了大量海外博主擦邊信息和照片。

這再次暴露了小紅書內(nèi)容生態(tài)監(jiān)管的薄弱。而彼時，有業(yè)內(nèi)人士表示，小紅書真的需要進(jìn)一步細(xì)化審核標(biāo)準(zhǔn)了，以適應(yīng)不同法律環(huán)境下的內(nèi)容監(jiān)管要求，避免因內(nèi)容違規(guī)而引發(fā)的法律風(fēng)險。

小紅書也不是沒有行動。今年2月13日，小紅書官方賬號“薯管家”發(fā)布公告，稱從去年12月至今，治理團(tuán)隊(duì)對美妝個護(hù)、食品、3C數(shù)碼、生活服務(wù)等15個行業(yè)、1695個存在違規(guī)營銷行為品牌進(jìn)行了處罰。

但從目前的情況來看，小紅書似乎有點(diǎn)“心有余而力不足”。

而抖音方面，盡管也進(jìn)行了多次對“涉黃”等相關(guān)內(nèi)容進(jìn)行監(jiān)管，但截至目前，依然無法有效改善平臺的生態(tài)。

實(shí)際上，這種反復(fù)出現(xiàn)的問題不僅損害了平臺的形象和聲譽(yù)，更讓用戶對其信任度大打折扣。尤其是，在監(jiān)管日益嚴(yán)格的今天，平臺如何有效遏制不良內(nèi)容的傳播，仍成為亟待解決的問題。

不過，一位算法工程師告訴《聽筒Tech》，“實(shí)際上，各大主流App，也都推出了AI標(biāo)識功能，而且也在加強(qiáng)對AI圖片、視頻的審核。但從目前的情況來看，效果一般。尤其是面對越來越先進(jìn)的AI工具，有時連平臺也無法真正判別出來。”

當(dāng)然，對此，國家方面也有了一定的動作。2024年9月，網(wǎng)信辦發(fā)布了關(guān)于《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》征求意見通知，要求平臺和服務(wù)提供者，對AI生成內(nèi)容明確標(biāo)識，比如添加水印。

但這仍需要平臺端的大力支持。

此前，中國社會科學(xué)院大學(xué)法學(xué)院副教授、互聯(lián)網(wǎng)法治研究中心主任劉曉春表示，“為防止平臺利用AI涉及暴力、侮辱性內(nèi)容的輸出，可采取不同的技術(shù)手段。在輸出端，服務(wù)商應(yīng)進(jìn)行篩選和再次審查。”

不過，面對用戶的種種質(zhì)疑，平臺的監(jiān)管力度明顯仍有欠缺。至少目前來說，這無法改變用戶對平臺和整個生態(tài)的不信任。

“你美得像AI”，對女生來說，這是一種讓人難以抗拒的贊美。AI科技的進(jìn)步不可逆轉(zhuǎn)，相關(guān)應(yīng)用也確實(shí)讓人們的生活更美好。

“但僅從擦邊寫真方面來看，如果我們或者我們的下一代，仍被各種隨處可見的色情內(nèi)容和低級趣味所喂養(yǎng)，那大概是人類為科技進(jìn)步和平臺的逐利行為，所付出的慘痛的代價。”小然直言。

“我們?nèi)云诖鼳I向善，不要被惡意利用。”在小然和林姐看來，“我們不是批評平臺，我們更希望平臺能夠加強(qiáng)監(jiān)管，還網(wǎng)友一個真正純凈的空間。”

而這些，都建立在平臺、技術(shù)、監(jiān)管部門和整個社會對內(nèi)容生產(chǎn)保持基本的尊重和敬畏的基礎(chǔ)之上。

（文中均為化名。）

（頭圖由AI生成。）

（聲明：本文僅作為信息交流，不構(gòu)成任何投資參考建議。）