技術(shù)一直以來都是雙刃劍,人們?cè)谙硎芗夹g(shù)帶來便利、新奇的同時(shí),也會(huì)面臨技術(shù)被濫用帶來的風(fēng)險(xiǎn)。今年以來,以ChapGPT為代表的AI技術(shù)應(yīng)用大爆發(fā),各種大模型層出不窮,同時(shí)也帶來了網(wǎng)絡(luò)安全隱患,作為最新興起的技術(shù),AI人工智能著實(shí)為社會(huì)帶來了長(zhǎng)足的進(jìn)步,但AI技術(shù),特別是AI換臉以及擬聲技術(shù)的普及和操作低門檻,也容易被不法分子利用。
當(dāng)前,機(jī)器學(xué)習(xí)、人工智能、大數(shù)據(jù)、人臉識(shí)別等熱點(diǎn)技術(shù)已被犯罪分子用于實(shí)施詐騙,花樣翻新的詐騙令人防不勝防。
近日,“AI詐騙正在全國(guó)爆發(fā)”的詞條就登上了微博熱搜榜:福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元。事后,郭先生撥打好友電話才知道被騙,騙子通過智能AI換臉和擬聲技術(shù),佯裝好友對(duì)他實(shí)施了詐騙。值得注意的是,騙子并沒有使用一個(gè)仿真的好友微信添加郭先生為好友,而是直接用好友微信發(fā)起視頻聊天,騙子極有可能通過技術(shù)手段盜用了郭先生好友的微信。幸運(yùn)的是,接警后福州、包頭兩地警銀迅速啟動(dòng)止付機(jī)制,成功止付攔截336.84萬元,但仍有93.16萬元被轉(zhuǎn)移。
AI詐騙案例頻出
官方數(shù)據(jù)顯示,電信詐騙案件偵辦處于高壓態(tài)勢(shì),2022年共破獲電信網(wǎng)絡(luò)詐騙案件46.4萬起。最高人民法院刑三庭副庭長(zhǎng)李睿懿此前曾經(jīng)表示,電信網(wǎng)絡(luò)詐騙犯罪發(fā)案在一些大中城市刑事案件中的占比甚至達(dá)到50%;僅2020年全國(guó)電信網(wǎng)絡(luò)詐騙案件涉及財(cái)產(chǎn)損失即達(dá)353.7億元。
正如文章頭里案例一樣,騙子直接使用上AI換臉的方式來騙取郭先生的信任,由于視頻當(dāng)中,不論是面容還是聲音,都和好友完全一致,這讓郭先生放松了警惕,這也說明了現(xiàn)在科技高速發(fā)展的情況下,即便是以往使用微信視頻來驗(yàn)證“真身”的方式,也已經(jīng)不再是最為靠譜的。
無獨(dú)有偶,2020年,上海某公司高管因?qū)Ψ绞褂肁I換臉與人工生成的語音技術(shù)制作公司領(lǐng)導(dǎo)的面孔,并要該高管轉(zhuǎn)賬,致使該高管被詐騙150萬元。
浙江溫州公安曾發(fā)布消息,2021年拱宸橋派出所接到報(bào)警,受害人小陳稱他在與女網(wǎng)友視頻聊天后被對(duì)方敲詐勒索。經(jīng)警方調(diào)查,對(duì)方利用AI換臉技術(shù),將小陳視頻中的面部合成到不雅視頻中,借此對(duì)其實(shí)施勒索?!癆I換臉”只需要提供一張帶臉的照片,就可以把自己置換成視頻、電視劇中的男(女)主角,而且擬真度非常高,毫無違和感。
2021年6月19日,哈爾濱市公安局破獲一起詐騙分子利用“人臉識(shí)別”方式,在一個(gè)小時(shí)內(nèi),將被害人借記卡盜刷一空的案件。受害人通過視頻會(huì)議軟件向詐騙分子提供了自己手機(jī)的信息,同時(shí)人臉信息暴露,被對(duì)方截取用于轉(zhuǎn)賬取款,成為對(duì)方成功實(shí)施詐騙的關(guān)鍵一環(huán)。
據(jù)華西都市報(bào)此前報(bào)道,2022年2月,有位陳先生到浙江溫州市公安局甌海分局仙巖派出所報(bào)案稱,自己被“好友”詐騙了近5萬元。經(jīng)警方核實(shí),詐騙分子利用陳先生好友“阿誠(chéng)”在社交平臺(tái)發(fā)布的視頻,截取其面部視頻畫面后再利用“AI換臉”技術(shù)合成,制造陳先生與“好友”視頻聊天的假象騙取其信任,從而實(shí)施詐騙。
揭露利用AI詐騙的手段
利用AI欺詐的應(yīng)用是一個(gè)相對(duì)較新的發(fā)展,但也是一個(gè)日益嚴(yán)重的問題,騙子正在使用人工智能技術(shù)來模仿人們所愛的人的聲音,以騙取他們的錢。這類欺詐包括使用深假技術(shù)為某人的聲音制作令人信服的錄音,然后利用這些錄音來操縱和欺騙毫無戒心的受害者,譬如:假冒身份:通過AI技術(shù)生成逼真的虛假身份信息,欺騙受害人;惡意軟件:通過AI技術(shù)生成具有欺騙性的惡意軟件,例如木馬病毒、勒索軟件等;詐騙電話:通過AI語音合成技術(shù)模擬銀行客服人員、公安民警等身份進(jìn)行詐騙等。
但最新的手段是利用換臉和擬聲結(jié)合的詐騙,讓人真假難辨:
AI擬聲詐騙
騙子盜取或購(gòu)買目標(biāo)人物的聲音數(shù)據(jù),再利用深度學(xué)習(xí)等人工智能技術(shù),將目標(biāo)人物的聲音數(shù)據(jù)替換為目標(biāo)人物以外的其他人的聲音數(shù)據(jù),生成逼真的虛假語音,并以目標(biāo)人物的聲音進(jìn)行電話詐騙。當(dāng)受害者接到電話時(shí),往往會(huì)被騙取錢財(cái)或個(gè)人信息。
據(jù)了解,2016年,谷歌在加拿大蒙特利爾大學(xué)建立的人工智能實(shí)驗(yàn)室(MILA)。基于聲音合成技術(shù),MILA在2017年4月成立了Lyrebird公司。在其網(wǎng)站DEMO部分,可以聽到官方合成的足以以假亂真的特朗普以及奧巴馬的聲音。美國(guó)有位記者用機(jī)器合成的句子和家里人打電話做實(shí)驗(yàn),他的家人完全分不清楚真假。
合成的聲音有明顯的痕跡,但WaveNet可以把合成痕跡明顯的機(jī)器語音,轉(zhuǎn)換成更加流暢自然的語音,與人類聲音之間的差異大幅降低,目前在鬼畜視頻界做得風(fēng)生水起。而Lyrebird則更進(jìn)一步,它可以基于音色、音調(diào)、音節(jié)、停頓等多種特征,來定義某個(gè)人的聲音,然后生成更加擬真的聲音。
AI換臉詐騙
視頻通話的可信度明顯高于語音和電話,但利用AI換臉,騙子可以偽裝成任何人。騙子先盜取或購(gòu)買目標(biāo)人物的面部特征數(shù)據(jù),再利用深度學(xué)習(xí)等人工智能技術(shù),將目標(biāo)人物的面部特征數(shù)據(jù)替換為目標(biāo)人物以外的其他人的面部特征數(shù)據(jù)。利用生成對(duì)抗網(wǎng)絡(luò)等技術(shù),生成逼真的虛假視頻或圖片進(jìn)行欺詐。
AI大時(shí)代網(wǎng)絡(luò)安全更應(yīng)受重視
對(duì)于電信詐騙犯罪,去年全國(guó)公安機(jī)關(guān)持續(xù)組織集群戰(zhàn)役,深入開展集中攻堅(jiān)行動(dòng),抓金主、鏟窩點(diǎn)、打平臺(tái)、斷資金,開展全鏈條打擊,先后開展了“云劍”“斷卡”“斷流”等專項(xiàng)行動(dòng)。
在政策層面,4月11日,國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》并向社會(huì)公開征求意見,對(duì)數(shù)據(jù)合規(guī)性、生成內(nèi)容合法性提出進(jìn)一步要求。國(guó)外方面,歐洲議會(huì)內(nèi)部市場(chǎng)委員會(huì)和公民自由委員會(huì)以壓倒性多數(shù)票通過《人工智能法案》提案的談判授權(quán)草案,向立法嚴(yán)格監(jiān)管人工智能技術(shù)的應(yīng)用邁出關(guān)鍵一步。
根據(jù)IDC數(shù)據(jù),2021年中國(guó)網(wǎng)絡(luò)安全市場(chǎng)總投資規(guī)模為122億美元,預(yù)計(jì)2026年將達(dá)到319億美元,2021年~2026年規(guī)模增速?gòu)?fù)合增長(zhǎng)率為21.2%。
隨著AI監(jiān)管政策落地,數(shù)據(jù)安全、隱私保護(hù)等安全需求將進(jìn)一步上升,網(wǎng)絡(luò)安全防護(hù)范圍、防護(hù)主體將進(jìn)一步擴(kuò)大,有望打開行業(yè)成長(zhǎng)新空間。
為應(yīng)對(duì)AI對(duì)網(wǎng)絡(luò)安全提出的新挑戰(zhàn),綠盟科技、奇安信-U、美亞柏科、啟明星辰、安恒信息等多家網(wǎng)絡(luò)安全公司也已采取行動(dòng)。
個(gè)人也需要提高警惕,不輕易提供人臉、指紋等個(gè)人生物信息給他人,不過度公開或分享動(dòng)圖、視頻等,陌生鏈接不要點(diǎn),陌生軟件不要下載,陌生好友不要隨便加,防止手機(jī)、電腦中病毒,微信、QQ等被盜號(hào)等等,避免成為騙子的下一個(gè)目標(biāo)。同時(shí),也需要加強(qiáng)監(jiān)管,防止這種騙局的滋生和蔓延。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.