站長(zhǎng)之家(ChinaZ.com) 5月6日 消息:據(jù) 404 Media報(bào)道，互聯(lián)網(wǎng)最受歡迎的深度偽造色情內(nèi)容在線網(wǎng)站 Mr. Deepfakes 于本周末永久關(guān)閉。

Mr. Deepfakes 網(wǎng)站一度吸引了大量“不良”用戶。研究人員指出，這些用戶愿意支付高達(dá) 1500 美元的價(jià)格，讓創(chuàng)作者使用先進(jìn)的 AI 技術(shù)，在未經(jīng)名人或其他目標(biāo)人物同意的情況下，使用她們的臉制作色情視頻。研究人員發(fā)現(xiàn)，在巔峰時(shí)期，Mr. Deepfakes 有 4.3 萬(wàn)條視頻的瀏覽量超過(guò)了 15 億次。這些視頻由近 4000 名創(chuàng)作者制作，這些所謂的“創(chuàng)作者”從這種不道德且如今已屬違法行為的交易中獲得了暴利。

不過(guò)，從本周起，這些視頻再也無(wú)法觀看了，且曾用來(lái)供用戶提出制作新視頻要求的論壇也已關(guān)閉。根據(jù)該平臺(tái)發(fā)布的一則通知，當(dāng) “一家關(guān)鍵服務(wù)提供商”“永久” 終止服務(wù)時(shí)，網(wǎng)站就被關(guān)停了。

Mr. Deepfakes 證實(shí)稱：“數(shù)據(jù)丟失讓平臺(tái)無(wú)法繼續(xù)運(yùn)營(yíng)。” 同時(shí)他們警告，在其關(guān)閉后，不要相信任何之后出現(xiàn)的冒牌平臺(tái)。“我們不會(huì)重新上線。任何聲稱是我們的網(wǎng)站都是假的。這個(gè)域名最終會(huì)過(guò)期，我們不對(duì)其未來(lái)的使用負(fù)責(zé)。這條信息將在一周左右后刪除。”

目前尚不清楚究竟是哪家服務(wù)提供商切斷了 “Mr. Deepfakes” 網(wǎng)站的服務(wù)。但，研究人員指出，深度偽造創(chuàng)作者要持續(xù)制作這類內(nèi)容，“最關(guān)鍵的要素” 之一是通過(guò)谷歌 Colab 筆記本提供的 “免費(fèi)層級(jí)的云 GPU 訪問(wèn)權(quán)限”。

不過(guò)，谷歌方面暫時(shí)尚未對(duì)于媒體提出的“最近是否取消了該訪問(wèn)權(quán)限”這一問(wèn)題作出回應(yīng)。

Mr. Deepfakes 網(wǎng)站的倒閉正值美國(guó)國(guó)會(huì)通過(guò)《刪除法案》之后 —— 該法案規(guī)定，創(chuàng)建和傳播未經(jīng)同意的私密影像（NCII）屬于違法行為，其中包括由 AI 生成的合成私密影像。任何收到有關(guān) NCII 通知的平臺(tái)必須在 48 小時(shí)內(nèi)將其刪除，否則將面臨美國(guó)聯(lián)邦貿(mào)易委員會(huì)的執(zhí)法行動(dòng)。執(zhí)法行動(dòng)要到明年春天才會(huì)開(kāi)始實(shí)施，但該服務(wù)提供商可能是因?yàn)檫@項(xiàng)法律的通過(guò)而封禁了 “Mr. Deepfakes” 網(wǎng)站。據(jù)《連線》雜志報(bào)道，去年，在英國(guó)宣布有意通過(guò)類似法律后，“Mr. Deepfakes” 網(wǎng)站就搶先開(kāi)始屏蔽來(lái)自英國(guó)的訪問(wèn)者。

不過(guò)，“Mr. Deepfakes” 網(wǎng)站的關(guān)閉并不能解決深度偽造問(wèn)題。2022 年，隨著 AI 技術(shù)使合成的 NCII 愈發(fā)逼真，深度偽造內(nèi)容的數(shù)量急劇增加，這促使美國(guó)聯(lián)邦調(diào)查局在 2023 年發(fā)出警告，提醒公眾這類虛假內(nèi)容正愈發(fā)頻繁地被用于性敲詐行為，但社會(huì)用來(lái)阻止其傳播的即時(shí)解決方案卻收效甚微。

據(jù)研究人員稱，“Mr. Deepfakes”（一個(gè)真實(shí)存在的人，身份匿名，但據(jù)報(bào)道是多倫多一名 36 歲的醫(yī)院工作人員）開(kāi)發(fā)的程序推動(dòng)了深度偽造內(nèi)容的激增。研究人員發(fā)現(xiàn)，他開(kāi)發(fā)的 DeepFaceLab 軟件迅速成為 “領(lǐng)先的深度偽造軟件，據(jù)估計(jì)，95% 的深度偽造視頻都是由這款軟件制作的，且該軟件在 GitHub 上已被復(fù)制了 8000 多次”。對(duì)于普通用戶來(lái)說(shuō)，他的平臺(tái)上有可供購(gòu)買的視頻，如果視頻制作得很逼真，價(jià)格通常會(huì)超過(guò) 50 美元；而更有積極性的用戶則會(huì)通過(guò)論壇提出要求，或者提升自己的深度偽造技術(shù)，成為創(chuàng)作者。

“Mr. Deepfakes” 的非法交易最早始于 Reddit，但在 2018 年被封禁后，就轉(zhuǎn)移到了他自己的平臺(tái)上。在那里，數(shù)千名深度偽造創(chuàng)作者分享技術(shù)知識(shí)，研究人員去年指出，“Mr. Deepfakes” 網(wǎng)站的論壇最終成為了 “制作深度偽造色情內(nèi)容的唯一可行的技術(shù)支持來(lái)源”。

由于之前已經(jīng)遷移過(guò)一次，這個(gè)群體應(yīng)該還是會(huì)通過(guò)新的平臺(tái)來(lái)繼續(xù)制作非法內(nèi)容，且“Mr. Deepfakes” 似乎想避開(kāi)公眾的關(guān)注，因此可能會(huì)以一個(gè)新的名字重新出現(xiàn)。據(jù)悉，早在 2023 年，研究人員估計(jì)該平臺(tái)有超過(guò) 25 萬(wàn)名成員，他們中的許多人可能會(huì)迅速尋找替代平臺(tái)，甚至嘗試搭建一個(gè)替代平臺(tái)。

“Mr. Deepfakes” 的恐怖統(tǒng)治可能還未結(jié)束，這一可能性進(jìn)一步增加，因?yàn)?DeepFaceLab 在 GitHub 上的存儲(chǔ)庫(kù)（已于 11 月存檔，無(wú)法再進(jìn)行編輯）仍然可供任何人復(fù)制和使用。

404 Media 報(bào)道稱，許多 “Mr. Deepfakes” 網(wǎng)站的成員已經(jīng)在 Telegram 上取得了聯(lián)系，據(jù)報(bào)道，在 Telegram 上也經(jīng)常有合成 NCII 的交易。加州大學(xué)伯克利分校的教授、數(shù)字偽造圖像領(lǐng)域的頂尖專家漢尼?法里德表示：“雖然這次關(guān)停是一個(gè)好的開(kāi)始，但類似這樣的平臺(tái)還有很多，所以我們不能就此止步。”