17歲的Uldouz Wallace不敢相信自己的眼睛，因?yàn)樗趂acebook上看到了自己的不雅視頻。而她并沒(méi)有跟任何人發(fā)生過(guò)性關(guān)系。

慌亂之中，她把自己的形象上傳到網(wǎng)站檢索，發(fā)現(xiàn)了2000多個(gè)相關(guān)鏈接。每個(gè)地址都是不堪入眼的露骨視頻。

報(bào)警后，她才知道，自己在instagram上發(fā)布的圖片被犯罪分子竊取了。罪犯拿著她的臉用AI合成了成人視頻，賣(mài)給了黃色網(wǎng)站。

而這些視頻已經(jīng)被觀看了上百萬(wàn)次。

至于犯罪分子，因?yàn)殡y以溯源最初的發(fā)布平臺(tái)和IP，很難被逮捕。

Wallace并非個(gè)例。

自生成式AI在2022年興起之后，毫無(wú)編碼能力的普通人也可以通過(guò)開(kāi)源模型合成圖像和視頻，情色產(chǎn)業(yè)也發(fā)現(xiàn)了其中的利益。

據(jù)悉，2023 年，美國(guó)社交平臺(tái)上新發(fā)布了14.3萬(wàn)個(gè)深度偽造合成的視頻，是2022年1.5萬(wàn)個(gè)的九倍。

當(dāng)技術(shù)不斷精進(jìn)，地下產(chǎn)業(yè)愈發(fā)猖獗，AI換臉的受害者也就愈來(lái)愈多。針對(duì)這個(gè)現(xiàn)象，世界范圍內(nèi)開(kāi)始出臺(tái)相關(guān)的法律法規(guī)。但由于尚在摸索階段，實(shí)際懲治力度并不強(qiáng)硬。

被害者迫于羞恥與倫理考量，大部分也不會(huì)選擇正面應(yīng)戰(zhàn)。

那些被害的女性，或許成了AI走進(jìn)互聯(lián)網(wǎng)后的第一批受害者。

學(xué)生主犯

把22萬(wàn)未成年送上色情網(wǎng)站

AI換臉始于deepfake（深度偽造）。

深度偽造是AI換臉的核心技術(shù)，其原理是通過(guò)深度神經(jīng)網(wǎng)絡(luò)提取輸入圖像的深層信息，讀取出其中隱含的深層特征來(lái)實(shí)現(xiàn)人臉互換（Face-swap）等特定任務(wù)。

自2017年名為deepfake的用戶在Git Hub上開(kāi)源此技術(shù)代碼，多個(gè)衍生代碼也相繼開(kāi)源。此后，AI換臉進(jìn)入大規(guī)模傳播時(shí)代。

游行抵制AI換臉的韓國(guó)群眾

韓國(guó)AI換臉?lè)缸锸录加?024年5月，主謀是兩個(gè)首爾大學(xué)的學(xué)生。利用開(kāi)源的AI技術(shù)Deepfake，換臉合成了成人視頻，在社交平臺(tái)私密傳播，受害女性多達(dá)61人。韓國(guó)婦女人權(quán)研究所表示，2024年以來(lái)共有781名AI換臉受害者在線求助，其中36.9%是未成年人。

但真正引起公眾注意的，是被非法換臉的22萬(wàn)未成年。

9月份，一大批未成年少女的影像出現(xiàn)在韓國(guó)某大型色情網(wǎng)站上。警方調(diào)查后，發(fā)現(xiàn)受害者90%為學(xué)生，受害者人數(shù)多達(dá)22萬(wàn)。

受害者來(lái)自五百多個(gè)學(xué)校。不僅有大學(xué)生，犯罪分子連高中、初中、乃至小學(xué)的女孩也不放過(guò)。而始作俑者也不是掌握高科技的成年黑客，大多都是十七八歲的學(xué)生。

他們?cè)谏缃痪W(wǎng)站上批量收集未成年的影像，利用深度偽造技術(shù)合成視頻，在匿名社區(qū)、暗網(wǎng)瘋狂流傳。

韓聯(lián)社報(bào)道，涉嫌AI換臉立案的嫌疑人中，10～19歲占比2021年為65.4%，2022年略降至61.2%，去年反彈至75.8%，2024年1至7月為73.6%。深度偽造犯罪呈現(xiàn)低齡化特征，未成年人淪為AI換臉的始作俑者。

而同樣的，未成年人也成為AI換臉的主要受害者。

2021年至2023年，在報(bào)案的527名深度偽造淫穢影像受害者中，未成年人占比達(dá)59.8%，遠(yuǎn)高于20～29歲（32.1%）、30～39歲（5.3%）和40～49歲（1.1%）。

而這樣違背倫理法律的犯罪活動(dòng)背后，除了技術(shù)和色欲本身，還有暴利。

成本趨近于零

5美元就可批量下載

“當(dāng)利潤(rùn)達(dá)到10%的時(shí)候，他們將蠢蠢欲動(dòng)；當(dāng)利潤(rùn)達(dá)到50%的時(shí)候，他們將鋌而走險(xiǎn)；當(dāng)利潤(rùn)達(dá)到100%的時(shí)候，他們敢于踐踏人間的一切法律；當(dāng)利潤(rùn)達(dá)到300%的時(shí)候，他們敢于冒著絞刑的危險(xiǎn)。”——《資本論》

在專(zhuān)門(mén)制作換臉視頻的Mr.deepfakes網(wǎng)站，用戶付費(fèi)5美元就可以下載上百份的換臉色情圖像。支付15美元就可以在一個(gè)月內(nèi)免費(fèi)訪問(wèn)該網(wǎng)站上的所有圖像視頻。

這類(lèi)網(wǎng)站盈利的基礎(chǔ)就是大量的付費(fèi)用戶。據(jù)Similar web數(shù)據(jù)顯示， Mr.deepfakes一個(gè)月的用戶訪問(wèn)量多達(dá)700萬(wàn)。

Mr deepfake網(wǎng)站流量（來(lái)源：Similar Web）

同時(shí)，NBC新聞對(duì) MrDeepFakes的調(diào)查發(fā)現(xiàn)，至少有18名網(wǎng)站創(chuàng)作者正在推廣指向 Fan-Topia 頁(yè)面的“隱藏鏈接”，并出售更長(zhǎng)版本的深偽色情內(nèi)容。每天，他們使用“隱藏鏈接”的創(chuàng)作者在網(wǎng)站上傳預(yù)告片并引導(dǎo)消費(fèi)。

該網(wǎng)站的深度偽造主要是女性公眾人物。K-Pop 明星、好萊塢女演員甚至政治人物都深受其害，包括美國(guó)著名歌星taylor swift和特朗普女兒伊萬(wàn)卡。

隨著生成式AI的不斷進(jìn)化，通過(guò)開(kāi)源模型，深度換臉成本趨近于零，只需要通過(guò)爬蟲(chóng)軟件批量獲取社交平臺(tái)上的女性照片，就可以獲得大量“免費(fèi)”的女性素材。

據(jù)美聯(lián)社報(bào)道，2023 年，網(wǎng)上新發(fā)布了超過(guò) 14.3 萬(wàn)個(gè)深度偽造合成的視頻。而在2022年，這一數(shù)值還是1.5萬(wàn)。在生成式AI火爆的一年內(nèi)，社交平臺(tái)上的AI換臉視頻增加了將近八倍。

而在不斷開(kāi)源、傳播的技術(shù)模型之中，社交平臺(tái)上出現(xiàn)了大量的UGC色情內(nèi)容。

Sensity咨詢公司2023年調(diào)查顯示，社交媒體上96%的深度偽造視頻都是露骨的性愛(ài)視頻。每一個(gè)視頻的平均瀏覽量在1億，視頻中的女性并不知情。

甚至有匿名網(wǎng)友在Discord上稱，只需要65美元就可以為Instagram上關(guān)注者少于200萬(wàn)美元的博主深度換臉，合成你想要的任何視頻。

在深度偽造社區(qū)，每個(gè)人都會(huì)有自己的主頁(yè)，你可以上傳自己的模型、代碼，生成的視頻，也可以為喜歡的博主打賞。

社區(qū)成員甚至?xí)e極討論如何寫(xiě)代碼、優(yōu)化模型生成更“逼真”的圖片視頻。

主題包括“defeating deepfake detection（如何繞過(guò)對(duì)deepfake的監(jiān)管）”“ways to improve deepfake（如何提升深偽技術(shù)）”“crypto payment（加密貨幣支付）”。

流傳著大量換臉色情影像的深偽社區(qū)，儼然成了犯罪分子的秘密基地。

Mr Deepfake討論貼

技術(shù)的彌散與不設(shè)限將犯罪成本降到最低，在高額利益和原始劣根性的驅(qū)動(dòng)下，越來(lái)越多的女性淪為AI換臉受害者，越來(lái)越多的犯罪分子加入這場(chǎng)結(jié)構(gòu)性的“圍觀”與侵犯之中。

作為七宗罪之一，色欲之下，人人都是圍觀者。

低成本犯罪，屢禁不止

但丁在《神曲》中列出七宗罪，依次為：色欲、貪婪、嫉妒、暴食、懶惰、暴怒、傲慢。

用AI換臉，是出于牟利，亦是出于人性中被淫欲喚醒的天然的劣根性。

Mia Janin

14歲的小女孩Mia Janin結(jié)束了自己的生命，因?yàn)橥嗄泻⒂肁I生成了她的裸照并在學(xué)校群組和社區(qū)傳播。

這個(gè)群組叫suicide squad,名為自殺小隊(duì)，有六十多個(gè)男生，多在十三四歲。而針對(duì)小女孩的換臉純粹是出于欺凌的快感。

事情發(fā)生于2021年3月，過(guò)了三年才在今年年初被新聞媒體曝光。

但直到現(xiàn)在，社交媒體上都沒(méi)有任何關(guān)于犯罪者的審判記錄和信息。

一個(gè)小女孩的身亡被新聞媒體一句“bullying”（霸凌）輕輕帶過(guò)。

網(wǎng)友評(píng)論

面對(duì)層出不窮的AI換臉事件，美國(guó)國(guó)會(huì)2023年發(fā)起了一項(xiàng)名為“the Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024”（反對(duì)強(qiáng)行篡改圖像和未經(jīng)同意編輯的法案）的法案。

數(shù)據(jù)顯示，參與投票的1231名成年人中，72%的女性強(qiáng)烈支持該法案，男性支持的比例為62%。其中，有20%在45歲以下的年輕男性公開(kāi)反對(duì)這項(xiàng)法案，認(rèn)為不應(yīng)該因?yàn)榫庉婣I換臉的視頻而起訴內(nèi)容創(chuàng)作者。

由下圖可以看出，每個(gè)年齡階段都有該法案的反對(duì)者，年輕男性的反對(duì)聲音尤為突出。

不過(guò)，從年初著名歌手Taylor Swift換臉視頻在社交媒體瘋傳到韓國(guó)未成年批量受害以及層出不窮的AI換臉事件，世界范圍內(nèi)開(kāi)始了對(duì)深度偽造的大力整治。

其中最重要的一個(gè)要素是知情權(quán)，即照片合成的主體是否事先同意圖像的生成與流傳。

美國(guó)是最早提出對(duì)深度偽造技術(shù)進(jìn)行立法的國(guó)家，與深度偽造技術(shù)直接相關(guān)法案最多，而且從聯(lián)邦和各州政府層面均有部署行動(dòng)。2018年12月，美國(guó)參議院提出《2018年惡意偽造禁令法案》（Malicious Deep Fake Prohibition Act of 2018），對(duì)制作深度偽造內(nèi)容犯罪和侵權(quán)行為的個(gè)人，以及明知內(nèi)容為深度偽造還繼續(xù)分發(fā)的社交媒體平臺(tái)，進(jìn)行罰款和長(zhǎng)達(dá)兩年的監(jiān)禁。如果偽造內(nèi)容煽動(dòng)暴力、擾亂政府或選舉，并造成嚴(yán)重后果，監(jiān)禁將長(zhǎng)達(dá)10年。

但從中國(guó)裁判文書(shū)網(wǎng)以“AI換臉”檢索，我們發(fā)現(xiàn)，在現(xiàn)存的18篇相關(guān)裁判文書(shū)，最早的判決案例在2022年，大部分都以賠禮道歉結(jié)束，實(shí)際賠償金額大多在3000到5000，懲處力度較小。

從某種程度上說(shuō)，“AI換臉”產(chǎn)業(yè)的猖獗一定程度上就是因?yàn)闆](méi)有嚴(yán)厲的懲戒措施，低成本犯罪給了更多游離在法律邊緣的人僥幸心理。

但AI換臉的本質(zhì)解不在于AI，而在于人。

因?yàn)榧夹g(shù)是中性的，善惡只是使用技術(shù)的人所帶來(lái)的后果。就像AI可以被用于提高蛋白質(zhì)檢測(cè)效率、優(yōu)化工作流程、解放人的生產(chǎn)力。同時(shí)，AI也會(huì)被犯罪分子用于詐騙、軍事和色情網(wǎng)站，成為黑灰產(chǎn)的養(yǎng)料。

隨著技術(shù)不斷發(fā)展，人類(lèi)所做的，除了享受技術(shù)的紅利，更應(yīng)該時(shí)刻警惕技術(shù)可能帶來(lái)的風(fēng)險(xiǎn)，尤其是針對(duì)兒童、婦女、老人等弱勢(shì)群體。

對(duì)抗AI換臉之路，任重而道遠(yuǎn)。

切記，不要在前進(jìn)的道路上誤開(kāi)潘多拉的魔盒，墜入無(wú)間之獄。