深度偽造技術的發展使得篡改和生成高逼真度的音視頻成為可能，為國家間政治抹黑、軍事欺騙提供了新的工具。為防止技術濫用和敵對勢力的滲透活動，美國從法律、技術、教育、國際合作等方面入手，加強對深度偽造技術的監管和防范。

美國構建深度偽造防御體系的主要做法

自下而上分層制定法律規范美國是第一個發生大規模深度偽造換臉事件的國家，也是第一個回應深度偽造技術問題的國家。美國的立法者對深度偽造的擔憂主要集中在國家安全、社會穩定、政治選舉等方面，同時又支持深度偽造技術在娛樂、醫療、影視等方面的應用，如何趨利避害成為一道治理難題。

州議會制定法案。2019年6月，德克薩斯州議會通過《關于制作欺騙性視頻意圖影響選舉結果的刑事犯罪法案》，該法案明確規定“利用深度偽造技術制作視頻企圖干擾選舉的行為被定義為刑事犯罪”。同年10月，加利福尼亞州議會通過《730號議會法案》，法案規定選舉前60日內制造、傳播經過篡改的有關政治家、選舉候選人的視頻、音頻、圖像的行為視為犯罪行為。兩個州頒布的法案，為深度偽造技術的應用場景、創作內容和使用目的劃定了法律紅線。

參眾兩院制定法案。美國眾議院頒布了《深度偽造責任法案》，規定深度偽造音視頻的創作者，必須用“不可刪除的數字水印以及文本描述”來說明該媒體文件是篡改或生成的，否則將構成犯罪行為。這明確了深度偽造內容創作者的責任和義務，讓他們清楚知曉自己行為的法律后果，從而在一定程度上約束其行為，減少隨意制作和傳播深度偽造內容的現象。參議院頒布的《惡意偽造禁令法案》對社交媒體平臺的責任也進行了規定，若平臺明知內容系深度偽造仍繼續分發，將受到罰款等處罰。這促使平臺加強對所發布內容的審核，積極采取措施防范深度偽造內容的傳播，維護網絡環境的安全和秩序。

主被動兼顧研發鑒偽技術美國為提升深度偽造技術檢測能力，依托國內的高科技公司研發各類檢測技術。根據防御策略的不同，現有的檢測技術主要分為主動防御和被動檢測兩大類。

被動檢測技術是從人臉視頻

自身獲取信息或提取特征

被動檢測技術。該技術是從人臉視頻自身獲取信息或提取特征，對偽造人臉視頻進行鑒別的技術，側重于事后取證，即針對已經制作并傳播的視頻進行檢測。例如，美國DAPPA公司推出“媒體取證”項目和“語義取證”項目，其中“媒體取證”項目，主要檢測和識別經過修改的數字媒體內容的項目，用于揭露偽造的圖片或視頻；“語義取證”項目，主要理解數據和信息背后的含義和上下文，以揭露潛在的欺詐或誤導行為。被動檢測技術的主要原理是“發現才處理”，這種防御方式存在滯后性，難以消除虛假視頻帶來的負面影響。

主動防御技術。該技術側重于事前防御，核心思路是在人臉視頻發布前添加一定的信號干擾，使得惡意使用者無法利用該視頻素材進行偽造，即便偽造也能夠順利溯源，找到偽造者，以實現“精準溯源”的目標。例如，美國的元宇宙平臺公司宣布將在其社交媒體平臺上標記AI生成圖像，目前在YouTube、TikTok等社交媒體平臺上，一些內容創作者已經開始使用水印來保護他們的視頻不被其他用戶盜用，但相關技術的執行條件較為嚴苛，需要視頻素材發布方主動添加干擾信息，這在素材自由分享的互聯網是較難實現的。

多維度提升公民媒介信息素養技術是中立的，技術的價值觀取決于使用技術的人。深度偽造技術本身并不邪惡，并非在所有情況下都會給公民、社會和國家帶來危害，政府需要通過教育，提高公民對深度偽造產品的警惕意識、甄別意識和法紀意識，彌補檢測技術的不足。一是提升公民的信息警惕意識。學習學校的系統課程，教育公民在海量信息海洋中，判斷信息來源的可靠性，識別虛假新聞、謠言、不實信息等。二是提升公民的信息甄別意識。通過非營利組織、教育機構、數字調查小組提高公民的信息甄別意識，例如數字調查小組與谷歌開發了公民在線推理免費網站，提供對抗信息操縱的課程和研究。通過教育引導公民對信息甄別，使公民避免成為虛假消息的“制作源”和傳播中的“無知者”。三是提升公民創作傳播信息的法紀意識。通過執法部門公開典型案例，引導公民在平臺上發布創作內容，要遵循法律、道德規范以及平臺規則。例如2024年，德克薩斯州電信公司Lingo Telecom因參與非法的拜登深度偽造詐騙，被美國聯邦通信委員會（FCC）處100萬美元的罰款。

美國全國廣播公司網站報道拜登深度偽造詐騙

開展國際交流合作一是積極參與國際會議，倡導建立國際標準。美國政府及機構積極參與各種國際會議，探討深度偽造技術的治理問題，分享美國的觀點和經驗，試圖引導國際社會形成深度偽造技術治理的統一規則。二是開展聯合科研項目，分享技術成果。美國與其他國家的科研機構、企業開展聯合項目攻關，共同研發深度偽造技術的防范方法和檢測工具，同時向國際社會分享其在深度偽造技術治理方面的成果和經驗，提升全球范圍內對深度偽造技術的治理能力。

美國深度偽造防御體系的特點

深度偽造法案規制的特點一是明確界定法律責任與犯罪行為。《惡意偽造禁令法案》對制作深度偽造內容引發犯罪和侵權行為的個人，以及明知內容為深度偽造還繼續分發的社交媒體平臺，進行罰款和監禁處罰。二是注重保護個人隱私與名譽。弗吉尼亞州的《非同意色情法》修正案，有效保護了個人的隱私和名譽，特別是對于容易成為深度偽造技術受害者的公眾人物，法律的保護能夠防止他們的形象被惡意利用，避免因虛假的色情或誹謗內容而遭受精神和名譽上的傷害。三是保障選舉安全和社會穩定。美國多個州針對選舉出臺了相關法案，這些法案對利用深度偽造技術干擾選舉的行為進行了明確的規定和限制，保障了選舉的公正性和合法性。

深度偽造鑒偽技術的特點一是準確率高。美國高科技公司研發的鑒偽技術，對惡意制作的深度偽造內容檢測準確率高達90%，能夠快速有效地篩選出虛假的音視頻內容，避免虛假信息的傳播和誤導。二是適用性廣。例如，谷歌和McAfee等高科技公司研發出多模態檢測技術，能夠應對不同形式的偽造內容，大大提高了鑒偽技術的應用范圍和實用性。三是時效性強。鑒偽技術能夠快速地對信息進行檢測和分析，及時發現深度偽造的內容，甚至部分鑒偽技術可以實現實時監測，即在信息發布或傳播的過程中進行實時檢測，一旦發現深度偽造的內容，立即進行預警和處理，有效地阻止虛假信息的進一步傳播，將影響降到最低。

公民媒介素養教育提升的特點一是區分年齡層次融合培養。美國媒介素養教育大多依托學校教育，針對不同年齡段的學生，設計不同層次的教育內容和教學方法。小學階段側重于培養學生對媒介的基本認知和正確使用習慣，中學階段進一步引導學生分析媒體信息的真實性、客觀性等，大學階段則更注重培養學生對復雜媒體信息的批判性思考和研究能力。二是注重培養批判性思維。引導公民深入分析媒體信息的構成、制作過程、傳播意圖以及背后的權利關系等。讓公民不僅能夠理解媒體所傳達的表面信息，還能批判性地思考信息的真實性、可靠性和潛在的影響。鼓勵公民對媒體信息提出疑問，不盲目相信和接受所看到、聽到的信息，學會從多個角度去驗證和評估媒體信息的可信度。三是注重提升媒介使用能力。美國的媒介素養教育不斷更新教育內容和方法，以適應新媒體環境下的公民媒介素養需求。為公民提供參與媒介創作的機會，讓他們親身體驗媒體信息的制作過程，使公民在實踐中理解媒體創作的規范、技巧和責任，同時也提高他們對媒體信息的理解和把控能力。

2024年2月，在德國慕尼黑的安全會議上，

美國亞馬遜、谷歌等公司宣布將

聯合打擊“深度偽造”的信息

深度偽造防御國際合作的特點一是注重技術研發合作，提升治理水平。美國重點與科技水平較高的國家共同開發先進的算法和模型，以提高對深度偽造內容的甄別能力。通過共享技術資源、研究數據和研發經驗，整合各國的技術優勢，加快技術創新的速度，共同應對深度偽造技術帶來的挑戰。二是促進政府、企業、學術機構間合作。美國政府與其他國家的政府部門開展交流與合作，通過簽署合作協議、建立雙邊或多邊的合作機制，共同應對深度偽造技術的威脅。三是基于地緣政治和戰略利益選擇合作對象。美國根據自身的戰略利益和地緣政治需求，優先選擇與盟友國家進行合作，加強對這些國家的了解和管控。同時，利用合作的機會，推廣自身的技術標準和治理模式，擴大其在國際上的影響力。

構建具有中國特色的深度偽造

綜合防御體系

中國是一個網絡大國，網絡意識形態安全形勢日趨復雜嚴峻。我們要在總體國家安全觀的指導下，充分學習借鑒美國有益的治理措施，統籌應對深度偽造技術發展的新挑戰，打造具有中國特色的深度偽造綜合防御體系。

構建完善的法律監管體系。一是構建完善的法律監管框架。修訂現有的法律，針對利用深度偽造技術實施犯罪的行為，細化相關罪名的認定標準和量刑情節。制訂專門針對深度偽造技術治理的法規，清晰界定深度偽造的概念、涵蓋范圍，明確區分其在合法創作與非法濫用場景下的界限。二是構建“事前—事中—事后”的監管鏈路。通過規定制作者的披露義務、網絡服務提供者的監督管理責任以及被侵權人的法律救濟途徑，確保監管鏈路的完整性。三是強化平臺責任。法律要求網絡平臺承擔起“守門人”的職責，對深度偽造內容進行審查和監管，有助于從源頭上減少深度偽造技術的濫用和傳播。

鼓勵企業研發鑒偽技術。一是設立研發項目，吸引企業參與。例如，國家自然科學基金等項目中會有涉及信息安全、人工智能等與鑒偽技術相關的課題，企業可通過承擔這些項目獲得研發資源和支持。二是支持國內高科技公司擴大研發鑒偽產品種類。例如，騰訊致力于研究新算法以分析視頻內容的統計特性和異常模式，同時探索區塊鏈技術應用等，促進企業不斷進行產品創新。三是鼓勵國內的高科技公司參與國際賽事。例如，中國電信數字智能科技分公司在2022年深度偽造博弈比賽中，獲得生成攻擊賽道亞軍以及檢測賽道季軍。通過參與國際賽事推動鑒偽技術的邊界不斷拓展，提升技術的深度和廣度。

加強公民媒介素養提升。一是提升公民媒介認知能力。促進公民了解不同媒介，如報紙、電視、廣播、網絡社交媒體、短視頻平臺等媒介的傳播形式、優勢與局限。二是提升公民的信息批判能力。對于接收到的圖片、音視頻等各類形式的信息，啟發公民不盲目跟從信息媒介所傳達的觀點，能夠分析內容是否真實客觀，思考背后有無潛在意圖。三是提升公民媒介道德與法律素養。引導公民在媒介環境中秉持誠實、公正、尊重他人等道德觀念，不進行網絡暴力、惡意詆毀、侵犯他人隱私等違背法律和道德的行為。

開展廣泛的國際交流合作。深度偽造技術對世界各國構成挑戰，中國倡導構建人類命運共同體，就要開展更廣泛的國際合作。一是參與國際規則制定與完善。在聯合國等國際組織內，中國深度參與深度偽造治理相關規則的制定，推動形成具有廣泛共識和約束力的國際公約或準則，為全球治理提供統一的規范指引。二是加強技術研發合作與共享。積極搭建國際技術交流平臺，及時分享國內在深度偽造治理方面的最新技術成果和應用經驗，實現技術成果的全球共享與交流，共同提升全球深度偽造治理的技術水平。三是建立信息共享與應急機制。建立跨國的應急響應協同機制，當出現重大深度偽造事件或危機時，能夠迅速啟動聯合應急響應計劃，共同開展調查、溯源、辟謠、遏制傳播等工作，最大限度地降低深度偽造帶來的危害和影響。

免責聲明：本文轉自軍事文摘，原作者趙東華、卜江。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策咨詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創新洞見。

地址：北京市海淀區小南莊20號樓A座

電話：010-82635522

微信：iite_er