技術一直以來都是雙刃劍，人們在享受技術帶來便利、新奇的同時，也會面臨技術被濫用帶來的風險。今年以來，以ChapGPT為代表的AI技術應用大爆發，各種大模型層出不窮，同時也帶來了網絡安全隱患，作為最新興起的技術，AI人工智能著實為社會帶來了長足的進步，但AI技術，特別是AI換臉以及擬聲技術的普及和操作低門檻，也容易被不法分子利用。

當前，機器學習、人工智能、大數據、人臉識別等熱點技術已被犯罪分子用于實施詐騙，花樣翻新的詐騙令人防不勝防。

近日，“AI詐騙正在全國爆發”的詞條就登上了微博熱搜榜：福州市某科技公司法人代表郭先生10分鐘內被騙430萬元。事后，郭先生撥打好友電話才知道被騙，騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。值得注意的是，騙子并沒有使用一個仿真的好友微信添加郭先生為好友，而是直接用好友微信發起視頻聊天，騙子極有可能通過技術手段盜用了郭先生好友的微信。幸運的是，接警后福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉移。

AI詐騙案例頻出

官方數據顯示，電信詐騙案件偵辦處于高壓態勢，2022年共破獲電信網絡詐騙案件46.4萬起。最高人民法院刑三庭副庭長李睿懿此前曾經表示，電信網絡詐騙犯罪發案在一些大中城市刑事案件中的占比甚至達到50％；僅2020年全國電信網絡詐騙案件涉及財產損失即達353.7億元。

正如文章頭里案例一樣，騙子直接使用上AI換臉的方式來騙取郭先生的信任，由于視頻當中，不論是面容還是聲音，都和好友完全一致，這讓郭先生放松了警惕，這也說明了現在科技高速發展的情況下，即便是以往使用微信視頻來驗證“真身”的方式，也已經不再是最為靠譜的。

無獨有偶，2020年，上海某公司高管因對方使用AI換臉與人工生成的語音技術制作公司領導的面孔，并要該高管轉賬，致使該高管被詐騙150萬元。

浙江溫州公安曾發布消息，2021年拱宸橋派出所接到報警，受害人小陳稱他在與女網友視頻聊天后被對方敲詐勒索。經警方調查，對方利用AI換臉技術，將小陳視頻中的面部合成到不雅視頻中，借此對其實施勒索。“AI換臉”只需要提供一張帶臉的照片，就可以把自己置換成視頻、電視劇中的男（女）主角，而且擬真度非常高，毫無違和感。

2021年6月19日，哈爾濱市公安局破獲一起詐騙分子利用“人臉識別”方式，在一個小時內，將被害人借記卡盜刷一空的案件。受害人通過視頻會議軟件向詐騙分子提供了自己手機的信息，同時人臉信息暴露，被對方截取用于轉賬取款，成為對方成功實施詐騙的關鍵一環。

據華西都市報此前報道，2022年2月，有位陳先生到浙江溫州市公安局甌海分局仙巖派出所報案稱，自己被“好友”詐騙了近5萬元。經警方核實，詐騙分子利用陳先生好友“阿誠”在社交平臺發布的視頻，截取其面部視頻畫面后再利用“AI換臉”技術合成，制造陳先生與“好友”視頻聊天的假象騙取其信任，從而實施詐騙。

揭露利用AI詐騙的手段

利用AI欺詐的應用是一個相對較新的發展，但也是一個日益嚴重的問題，騙子正在使用人工智能技術來模仿人們所愛的人的聲音，以騙取他們的錢。這類欺詐包括使用深假技術為某人的聲音制作令人信服的錄音，然后利用這些錄音來操縱和欺騙毫無戒心的受害者，譬如：假冒身份：通過AI技術生成逼真的虛假身份信息，欺騙受害人；惡意軟件：通過AI技術生成具有欺騙性的惡意軟件，例如木馬病毒、勒索軟件等；詐騙電話：通過AI語音合成技術模擬銀行客服人員、公安民警等身份進行詐騙等。

但最新的手段是利用換臉和擬聲結合的詐騙，讓人真假難辨：

AI擬聲詐騙

騙子盜取或購買目標人物的聲音數據，再利用深度學習等人工智能技術，將目標人物的聲音數據替換為目標人物以外的其他人的聲音數據，生成逼真的虛假語音，并以目標人物的聲音進行電話詐騙。當受害者接到電話時，往往會被騙取錢財或個人信息。

據了解，2016年，谷歌在加拿大蒙特利爾大學建立的人工智能實驗室(MILA)。基于聲音合成技術，MILA在2017年4月成立了Lyrebird公司。在其網站DEMO部分，可以聽到官方合成的足以以假亂真的特朗普以及奧巴馬的聲音。美國有位記者用機器合成的句子和家里人打電話做實驗，他的家人完全分不清楚真假。

合成的聲音有明顯的痕跡，但WaveNet可以把合成痕跡明顯的機器語音，轉換成更加流暢自然的語音，與人類聲音之間的差異大幅降低，目前在鬼畜視頻界做得風生水起。而Lyrebird則更進一步，它可以基于音色、音調、音節、停頓等多種特征，來定義某個人的聲音，然后生成更加擬真的聲音。

AI換臉詐騙

視頻通話的可信度明顯高于語音和電話，但利用AI換臉，騙子可以偽裝成任何人。騙子先盜取或購買目標人物的面部特征數據，再利用深度學習等人工智能技術，將目標人物的面部特征數據替換為目標人物以外的其他人的面部特征數據。利用生成對抗網絡等技術，生成逼真的虛假視頻或圖片進行欺詐。

AI大時代網絡安全更應受重視

對于電信詐騙犯罪，去年全國公安機關持續組織集群戰役，深入開展集中攻堅行動，抓金主、鏟窩點、打平臺、斷資金，開展全鏈條打擊，先后開展了“云劍”“斷卡”“斷流”等專項行動。

在政策層面，4月11日，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》并向社會公開征求意見，對數據合規性、生成內容合法性提出進一步要求。國外方面，歐洲議會內部市場委員會和公民自由委員會以壓倒性多數票通過《人工智能法案》提案的談判授權草案，向立法嚴格監管人工智能技術的應用邁出關鍵一步。

根據IDC數據，2021年中國網絡安全市場總投資規模為122億美元，預計2026年將達到319億美元，2021年~2026年規模增速復合增長率為21.2%。

隨著AI監管政策落地，數據安全、隱私保護等安全需求將進一步上升，網絡安全防護范圍、防護主體將進一步擴大，有望打開行業成長新空間。

為應對AI對網絡安全提出的新挑戰，綠盟科技、奇安信-U、美亞柏科、啟明星辰、安恒信息等多家網絡安全公司也已采取行動。

個人也需要提高警惕，不輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等，陌生鏈接不要點，陌生軟件不要下載，陌生好友不要隨便加，防止手機、電腦中病毒，微信、QQ等被盜號等等，避免成為騙子的下一個目標。同時，也需要加強監管，防止這種騙局的滋生和蔓延。