一場“數(shù)字性侵”。

韓娛公司，正在反擊AI作惡。

上周，韓國娛樂公司HYBE宣布，將與京畿北道警察局（NGPPA）合作，共同打擊以HYBE藝人為對象的深度偽造（Deepfake）內(nèi)容。

HYBE與NGPPA簽署了一份協(xié)議，明確了合作細(xì)節(jié)，包括加快相關(guān)案件的調(diào)查進(jìn)程，并在韓國設(shè)立舉報熱線，方便公眾報告相關(guān)犯罪活動。同時，HYBE也宣布加強(qiáng)對深度偽造內(nèi)容的監(jiān)控和處理，尤其是在色情內(nèi)容方面，將專門設(shè)立響應(yīng)機(jī)制，盡快采取行動。

去年9月，韓國娛樂公司JYP、YG和 Cube也向使用其K-pop藝人圖像創(chuàng)建的深度偽造視覺內(nèi)容宣戰(zhàn)。YG指出，包括（G)I-dle、NewJeans、Twice、Kwon Eun-bi和BlackPink等知名K-Pop女子組合都是深度偽造內(nèi)容的受害者中的冰山一角。

近年來，深度偽造內(nèi)容泛濫已成為全球關(guān)注的焦點(diǎn)，尤其是針對娛樂行業(yè)的惡意攻擊。那么，為什么深度偽造技術(shù)會集中盯上K-Pop圈？背后隱藏著怎樣的惡趣味？

困在AI色情視頻里的女明星

深度偽造（DeepFake）是一種人工智能技術(shù)，依賴于深度學(xué)習(xí)技術(shù)，尤其是生成對抗網(wǎng)絡(luò)（GAN），來生成或篡改圖像和視頻。其中，GAN 由生成器和判別器組成，通過兩者不斷地對抗和博弈，生成器逐漸學(xué)會生成更加逼真的虛假內(nèi)容，直到能夠以假亂真。

借助深度偽造，可以把一個人的臉、聲音、動作換到另一個視頻或圖片上，讓它看起來像是真實(shí)發(fā)生的事情，比如讓某人“說”他從未說過的話，或者“做”他從未做過的事情。

而在韓國娛樂行業(yè)，許多女明星的形象被不法分子用來制作惡搞、色情等有害內(nèi)容，嚴(yán)重侵害了藝人的隱私和名譽(yù)。

美國網(wǎng)絡(luò)安全公司Home Security Heroes的一份報告顯示，在互聯(lián)網(wǎng)所有深度偽造視頻中，幾乎98%是深度偽造色情視頻，前10個專門用于深度偽造色情內(nèi)容的網(wǎng)站上，視頻總訪問量到超過3億次，總觀看次數(shù)超過3000萬。

報告還指出，94%的深度偽造色情內(nèi)容都發(fā)生在娛樂業(yè)，其中歌手、演員分別以58%、33%占據(jù)大頭。在深度偽造的色情內(nèi)容中，99%的受害者是女性，僅1%為男性。

而在10 個深度偽造色情網(wǎng)站和85個視頻共享平臺上的近 9.6萬個視頻中，53% 的人是韓國歌手和演員。

在海外社交媒體Reddit上，有網(wǎng)友指出當(dāng)搜索“K-Pop”相關(guān)的關(guān)鍵詞就會跳出熱門subreddit（討論社區(qū)）幾乎都是18禁的話題，評論簡直令人作嘔。

當(dāng)前，深度偽造的色情內(nèi)容已經(jīng)蔓延到各種在線社交平臺。其中，曾引發(fā)韓國惡性集體性犯罪“N號房事件”的閱后即焚APP Telegram就是重災(zāi)區(qū)，甚至有人將其命名為“新N號房事件”。

去年8月，韓國女性民友會發(fā)布一組報告，指出在社交平臺Telegram的聊天群組中，只需上傳熟人照片，付費(fèi)后5秒鐘內(nèi)就能生成不雅合成圖。令人震驚的是，這個聊天群的參與人數(shù)高達(dá)22.7萬。

更惡心的是，一些深度偽造網(wǎng)站甚至列出了來自幾乎每一代K-Pop的200多名女性偶像的名字，包括多個第五代K-Pop團(tuán)體的成員。

去年，YG旗下女團(tuán)BABYMONSTER的粉絲群體在社交平臺上發(fā)聲，呼吁粉絲暫時放下飯圈紛爭，共同保護(hù)女藝人。他們強(qiáng)調(diào)，大家無論支持哪個團(tuán)體，現(xiàn)在都應(yīng)團(tuán)結(jié)一致，堅(jiān)決反對深度偽造色情內(nèi)容的行為，今天的受害者是她們，明天可能就是其他人。尤其是BABYMONSTER的7名成員中，有4人仍是未成年人，這足以說明問題的嚴(yán)重性。

今年1月，韓國娛樂公司Starship因工作人員重大失誤，導(dǎo)致官方微博轉(zhuǎn)發(fā)了公司旗下K-Pop女子團(tuán)體IVE成員張?jiān)ⅰ插墩娴纳疃葌卧靸?nèi)容。

盡管經(jīng)紀(jì)公司、粉絲群體、網(wǎng)友都對深度偽造內(nèi)容痛斥不已，紛紛敦促相關(guān)部門迅速采取法律行動來保護(hù)受害者，并追究責(zé)任人，但深度偽造內(nèi)容對女藝人的傷害卻難以完全遏制，它不僅是技術(shù)濫用的惡果，更是長期以來數(shù)字空間中性別暴力與隱私侵害問題的縮影。

目前，韓國政府和相關(guān)機(jī)構(gòu)在輿論壓力下，已加快立法進(jìn)程，以更嚴(yán)厲的法律打擊深度偽造色情內(nèi)容的制作和傳播。

深度偽造為何盯上K-Pop女明星？

可以說，技術(shù)的低門檻、藝人的高曝光、社會對女性偶像的物化、法律的滯后，種種因素交織，共同催生了這場韓娛生態(tài)中的“數(shù)字性侵”。

有報道顯示，在韓國，涉及深度偽造的色情案件從2022年的3725起激增到2023年的21019起。

盡管根據(jù)《關(guān)于處罰性犯罪的特殊案件法》，參與編輯、合成或處理深度偽造色情內(nèi)容的個人將面臨最高五年的監(jiān)禁或 5000 萬韓元的罰款，以營利為目的傳播此類內(nèi)容的發(fā)布者最高可被判處7年監(jiān)禁。

然而，在2020年至2023年韓國對深度偽造犯罪做出的 71 項(xiàng)裁決中，只有4 起案件僅因深度偽造犯罪而被判處監(jiān)禁。目前還沒有針對下載或觀看深度偽造色情內(nèi)容的法律。

這意味著，現(xiàn)行法律只針對深度偽造色情內(nèi)容的制作和傳播者進(jìn)行處罰，而觀看或持有這些內(nèi)容的人卻不受法律約束。這種法律漏洞使得“觀眾”可以毫無顧忌地瀏覽相關(guān)內(nèi)容，進(jìn)一步助長了非法市場的需求，也使受害者更難獲得有效的法律保護(hù)。

根據(jù)Home Security Heroes統(tǒng)計(jì)，10大最常被深度偽造色情內(nèi)容攻擊的數(shù)據(jù)統(tǒng)計(jì)中，大部分受害者都是韓國歌手，其中一位歌手的視頻數(shù)量高達(dá)1595個，而另一位韓國歌手的深度偽造視頻觀看量超過了561萬。

2017年，在一個名為DeepFake的Reddit用戶出現(xiàn)，偽造出了一系列女性色情電影，后來，這個詞的含義逐漸擴(kuò)大，不僅包括他制作的換臉視頻，還指各種利用 AI 技術(shù)生成的合成內(nèi)容。隨后，開源工具如DeepFaceLab和Faceswap相繼發(fā)布，使得用戶能夠更容易地創(chuàng)建深度偽造內(nèi)容。

當(dāng)下，深度偽造內(nèi)容不再是一個高門檻的技術(shù)挑戰(zhàn)，幾乎任何人都能輕松、高效地制作出逼真的虛假內(nèi)容。從操作難度來看，目前只需一臺手機(jī)就足以制作出 AI 換臉內(nèi)容，用戶只需要提供提供素材并簡單調(diào)整，技術(shù)本身就會完成大部分工作。

而K-Pop產(chǎn)業(yè)在全球范圍內(nèi)的廣泛傳播，尤其是韓國女歌手通過社交媒體與粉絲的緊密互動，創(chuàng)造了極高的曝光度。這種高度可見性使得她們的形象成為了深度偽造內(nèi)容的理想素材。

去年3月，K-Pop女子團(tuán)體ITZY成員黃禮志在一次粉絲連線活動中，意外地看到了一段自己的深度偽造的跳舞視頻。當(dāng)時，黃禮志的表情顯然有些難以招架，既高興又有些困惑，只能尷尬地模仿起視頻中的舞蹈動作。盡管這段視頻表面上似乎并無惡意，但事后，許多人表示，觀看這段視頻讓人感到“毛骨悚然”。

如今，偶像的每一個動作、每一個表情都可能成為被惡意利用的對象。任何人只需借助技術(shù)手段，就能利用公開的藝人影像、物料，制作出極為逼真的偽造視頻。這些偽造的視頻不僅可能被推向公共平臺，也有可能被泄露到私密場合，給偶像帶來無法預(yù)見的困擾和傷害。

另一方面，韓國社會對女性偶像的極度關(guān)注和物化，加劇了這種侵犯的普遍性。

在傳統(tǒng)的性別文化中，女性往往被視為視覺消費(fèi)的對象，尤其是年輕的女歌手，她們的形象和形態(tài)經(jīng)常被放大、審視和評價，使得這些女明星成為了深度偽造內(nèi)容的高頻目標(biāo)。對她們進(jìn)行深度偽造不僅能夠迅速吸引眼球，其社會影響力也使得這些內(nèi)容具備了更高的傳播價值。

而且，大多數(shù)觀看深度偽造色情的男性并不認(rèn)為這種行為有道德問題。

以Home Security Heroes的1522名美國男性受訪者為例，74%的人對深度偽造色情內(nèi)容沒有罪惡感，其中“我知道這不是真人。”（36%）、“只是我個人興趣，這不會傷害任何人。”（30%）“深度偽造色情只是更逼真的性幻想。”（29%）“深度偽造色情和普通色情沒有太大區(qū)別。”（28%）

其背后的邏輯，他們或是受名人吸引力驅(qū)使，或是“幻想滿足”，希望獲得更個性化、定制化的成人娛樂體驗(yàn)，卻無視了基本道德界限，抱著輕視女性尊嚴(yán)的態(tài)度，這讓深度偽造色情在道德和法律的空白地帶肆意泛濫，進(jìn)一步加深了對女性藝人的傷害與物化。

而對于經(jīng)紀(jì)公司而言，考慮到影像的殘留與輿論的烙印在互聯(lián)網(wǎng)難以抹去，甚至可能成為二次網(wǎng)絡(luò)暴力的導(dǎo)火索。大多時候沒有辦法透露深度偽造色情案件的具體細(xì)節(jié)，這也讓外界難以全面了解案件的嚴(yán)重性和受害者所經(jīng)歷的困境。

由此可見，K-pop女明星成為深度偽造內(nèi)容的高危群體，其背后既有深度偽造技術(shù)的隱蔽性與低門檻，也折射出部分男性對女性的輕視。

可以說，K-pop 產(chǎn)業(yè)高度的全球曝光度與對偶像形象的極致塑造，使得女藝人不僅是商業(yè)符號，更成為公眾欲望的投射對象。再加上法律體系在應(yīng)對這一新興問題時的滯后，讓女性藝人淪為網(wǎng)絡(luò)上的玩偶，隨時可以被任何人肆意操控、貶低，甚至肆無忌憚地消耗。

當(dāng)技術(shù)成為“賽博照妖鏡”

一個更恐怖的事實(shí)，不僅是韓國，根據(jù)去年3月英國《衛(wèi)報》報道，在歐洲5個訪問量最大的深度偽造內(nèi)容網(wǎng)站上，有近4000位明星被AI換臉成色情內(nèi)容的主角，5個網(wǎng)站三個月的瀏覽量就達(dá)到了1億次。受害者包括女演員、電視明星、音樂家和YouTube網(wǎng)紅。

去年年初，Taylor Swift的深度偽造色情圖片也曾在X（原推特）上廣泛傳播，在平臺而且被累計(jì)瀏覽超4700萬次。據(jù)相關(guān)統(tǒng)計(jì)顯示，當(dāng)時全網(wǎng)已有超過9500 個網(wǎng)站“專門制作非自愿親密圖像”。最終， X一度封鎖了對斯威夫特的相關(guān)搜索，以遏制這些虛假內(nèi)容的傳播。

而在國內(nèi)，也出現(xiàn)了深度偽造的相關(guān)案件，且受害者并不限于女明星，更有你我這樣的普通人。

2020年，虞某一邊通過傳播換臉的淫穢視頻來“吸粉引流”，同時通過出售“AI換臉”軟件和提供所謂“AI換臉”的私人定制服務(wù)，在不到半年的時間里就獲利數(shù)萬元。2023年11月，杭州市蕭山區(qū)人民法院判決虞某犯制作、傳播淫穢物品牟利罪，判處有期徒刑七年三個月，并處罰金6萬元。這也是我國首例關(guān)于“AI換臉”侵犯公民個人信息公益訴訟案的審理判決。

國內(nèi)在此類案件的處理中，該封號的封號，該處罰的處罰，但利益、欲望似乎總是先于規(guī)則，而法律的步伐卻往往滯后于技術(shù)變革。面對技術(shù)濫用的新型挑戰(zhàn)，“以技術(shù)對抗技術(shù)”正成為重要的應(yīng)對策略。

比如，去年推出的榮耀Magic7系列推出手機(jī)行業(yè)首個端側(cè)AI反詐檢測技術(shù)，可在識別內(nèi)容是否存在AI換臉的風(fēng)險。該技術(shù)還獲得了2024年中國網(wǎng)絡(luò)安全創(chuàng)新創(chuàng)業(yè)大賽最具投資價值獎。

當(dāng)然，平臺的責(zé)任也不應(yīng)該僅僅是“亡羊補(bǔ)牢”，否則規(guī)則再完善，也只是落后于人性弱點(diǎn)的一紙空文，既攔不住逐利的黑產(chǎn)，也保護(hù)不了受害者的尊嚴(yán)。

社交平臺上，依然有大量不法分子在非法網(wǎng)站上傳不少女藝人的相關(guān)深度偽造視頻內(nèi)容，一些交易平臺的商家不過是換了張面孔，便在規(guī)則的夾縫中繼續(xù)游刃有余。

近年來，國內(nèi)雖然在相關(guān)立法方面有關(guān)注這一議題，但已出臺的規(guī)章制度還不具備可操作的細(xì)則和明確的處罰標(biāo)準(zhǔn)。在今年3月全國兩會上，全國人大代表，TCL創(chuàng)始人、董事長李東生也提出了關(guān)于加強(qiáng)AI深度偽造欺詐管理的建議。

近幾年，“技術(shù)無善惡，但卻有邊界”類似的話術(shù)，幾乎成為每一篇關(guān)于技術(shù)濫用的報道中的口號。但技術(shù)無法為道德缺失填坑，每一幀都是施暴者的主動選擇，不是算法自作主張。

當(dāng)技術(shù)成為了一部分人的“賽博照妖鏡”，或許我們更需要的不僅僅是更鋒利的監(jiān)管刀刃，也需要一場全民的精神覺醒。數(shù)字世界的“不要臉”，本質(zhì)是現(xiàn)實(shí)人格的徹底潰爛。

*本文圖源網(wǎng)絡(luò)，如侵權(quán)聯(lián)系刪改