作者：肖茜（Xiao Qian）

清華大學戰略與安全研究中心副主任

當前，人工智能技術的快速迭代發展，已成為經濟發展的新引擎和國家競爭的新焦點。在促進技術快速發展的同時，如何制定合理有效的治理規則以防范人工智能帶來的潛在風險，已成為國際社會的重要關切。中美作為人工智能技術和應用發展的兩個大國，在人工智能治理上的競爭與合作受到各界高度關注。今年以來，DeepSeek的問世提振了中國企業突破美國技術封鎖實現技術創新的信心，另一方面，“特朗普2.0”開啟，美新政府對待人工智能治理以及對華科技競爭上的態度和政策尚未完全明晰。

近日，《紐約時報》刊登弗里德曼先生的文章，呼吁中美兩國合作，共同應對通用人工智能可能給人類帶來的風險。他認為，正如1970年代以來美蘇核武器控制之于世界穩定的意義，未來確保人類有效掌控這些快速進化的人工智能系統，將取決于美中兩國在人工智能領域的合作程度——這關乎明日世界的存續根基。通用人工智能（A.G.I.）誕生后，若不能達成共同的信任標準，美中將無法開展任何合作。

在人工智能治理中，“信任”一詞常常被提及，包括對機器的信任，對人機協同的信任，對使用系統的人的信任，對機構的信任，對國家的信任等等。信任是最本的要素，也是最寶貴的資源。以色列歷史學家尤瓦爾·赫拉利（Yuval Noah Harari）近日在中國發展論壇上的發言中從人類歷史的宏觀視角解讀信任：“我們應當先增進人類之間的信任，再去開發真正意義上的超級人工智能體。……從本質上講，信任是生存的必要條件。以人類身體為例，我們每秒鐘都在呼吸，每一次呼吸都是一種信任——信任外界的空氣，我們將氧氣吸入肺中、融入身體，再將廢氣呼出到外界。這種信任和呼吸是生命的象征，如果失去對外部世界的信任，停止呼吸，生命也將終結。……歷史告訴我們，信任比恐懼更為重要。為什么地球是由人類主宰？而不是被大象或者是其他的動物？并非是因為人類比其他動物更聰明，而是因為我們更懂得如何與陌生人建立信任并展開合作，這種能力經過了數千年的錘煉。在AI時代，想要生存和繁榮，我們需要更加信任他人，這一點比信任AI更為重要”。赫拉利同時也一針見血指出，“當前，人類之間的信任在瓦解，國際機制的基本范式和規則遭到破壞”。筆者最近出席聯合國裁軍署舉辦的首屆全球人工智能峰會，會上，嘉賓們都無一例外提到地緣政治競爭破壞國與國之間的信任，延宕甚至破壞人工智能國際治理的進程。

然而，什么是信任？信任到底有什么標準？劍橋詞典對Trust一詞的解釋為：相信某人是善良和誠實的，不會傷害自己，或者相信某個東西是安全、可靠的（to believe that someone is good and honest and will not harm you, or that something is safe and reliable）。韋氏詞典的解釋是，對某人或某物的品質、能力、實力或真相的放心依賴（assured reliance on the character, ability, strength, or truth of someone or something）。現代漢語詞典對于信任一詞的解釋為“相信而敢于托付”。新華字詞中對于“信任”一詞中“信”字的解釋為不懷疑，認為可靠，“任”字的解釋為相信，信賴。在國際關系領域，信任是指國家或行為體對彼此意圖、承諾和行動的正面預期。綜上所述，信任需要包括以下基本要素：可相信、可預期、可解釋。

中美兩國之間能像弗里德曼先生期待的那樣，至少建立基本的信任，在人工智能治理領域開展迫在眉睫的合作？要回答這個問題，不僅要從中美關系現狀來分析，也要考慮人工智能技術本身的特性。

從中美關系來看，當前中美關系存在嚴重的信任赤字。中美兩國之間相互懷疑和恐懼，對彼此意圖的不確定一直影響兩國關系走向。21世紀初，中國經濟和軍事力量的快速增長引發美國國內關于如何應對中國崛起的廣泛辯論，美國國內學術和政策界開始關于中國的大辯論。中國積極推進“一帶一路”倡議、發布《中國制造2025》、大幅提升對高科技產業投資等，使得美國政策界對中國的態度轉向懷疑和警惕，擔心中國挑戰美國的領導地位。

2017年12月，特朗普政府在《國家安全戰略》報告中將中國定位為競爭者，2021年3月，拜登政府發布《臨時國家安全戰略方針》強調，“中國是唯一一個有潛力綜合運用經濟、外交、軍事以及科技力量來對穩定與開放的國際機制發起持續挑戰的競爭者”。美國《2022年國防戰略》宣稱中國是“美國最重要的戰略競爭者和緊迫的挑戰者”，將中國置于美國的對立面，急劇壓縮兩國對話合作的領域。多位美國官員曾公開表示，要確保對華技術競爭的絕對優勢。為實現這一目標，美國泛化“國家安全”概念，通過設立對外投資審查機制，加強對關鍵技術和設備的出口管制，限制對華技術轉讓，將中國企業列入出口管制“實體清單”等方式，極盡其能保護自身的技術優勢和所謂“國家安全”。

另一方面，中國則認為，美方做法實為限制中國的發展，目的是維護自身霸權，剝奪中國正當發展的權利。此外，美國在特朗普第一任期的后期，開始突出對華戰略中的意識形態因素。2020年5月20日，特朗普政府發布《美國對中華人民共和國的戰略方針》，將中美兩國的競爭上升到意識形態層面，認為“中美意識形態競爭體現在政治、經濟和社會等所有領域”。此后，特朗普政府的多位重要官員就美中關系發表演講，攻擊中國的社會制度，指責中國的內外政策。在中美博弈和地緣政治大背景下，中美兩大行為體的相互懷疑和恐懼，對彼此意圖的不確定性愈演愈烈，構成兩國信任赤字的最大因素，使“可相信”這一目標更加難以企及。而“特朗普2.0”初期在對外政策上的取向，使得“可預期”也成為兩國關系的“稀缺資源”。

▲2月21日，特朗普簽署“美國第一”投資政策備忘錄，下令限制中國對美國人工智能等關鍵領域的投資。

從人工智能技術本身來看，雖然近年來獲得突飛猛進的發展，但仍然存在一些尚未解決的問題，包括不確定性、算法黑箱、不可解釋性等。有AI“教父”之稱的約書亞·本希奧教授于2025年1月領銜發布《國際人工智能安全報告》，其中列出通用人工智能（General-purpose AI）可能存在可靠性問題，包括虛構或幻覺——即不準確或具有誤導性的內容； 常識推理與推斷失敗——無法正確執行符合常識的邏輯推理；未能反映情境相關、最新且無偏見的知識與理解——輸出內容脫離實際背景、過時或帶有偏見。報告指出，可靠性問題的具體表現可能引發多種風險，包括對個人造成身體或心理傷害，對組織造成聲譽、法律及經濟損失，通過錯誤信息干擾治理流程等。而與此同時，雖然各國紛紛立法或制定規則對本國人工智能的發展予以約束，在國際層面針對人工智能技術尚無統一的、具有約束力的國際法律或條約。弗里德曼在文章中也預測，若中美各自發展人工智能系統，大量貿易將陷入停滯，只能互售大豆釀醬油。世界將淪為一個高科技封建主義世界。由此可見，人工智能技術本身不穩定性和不可解釋性會讓中美兩國在這一領域的合作與競爭充滿挑戰。

2024年5月，中美人工智能政府間對話會議在日內瓦舉行。從會后新聞稿看出，雙方對此次對話均作出積極評價，認識到應確保人工智能技術的安全，重申繼續致力于落實“舊金山共識”。但在治理側重點上，雙方存在較大分歧和錯位。中方強調人工智能技術的發展，就美方在人工智能領域對華限制打壓表明嚴正立場；強調人工智能發展的公平，認為AI全球治理應發揮聯合國主渠道作用，建議建立具有廣泛共識的全球人工智能治理框架和標準規范。而美國則傾向于將本次對話視為技術交流與交鋒，聚焦人工智能的安全風險和治理，強調應確保建設AI系統安全、可靠、可信賴，并關注所謂中方“錯用”（misuse）人工智能的做法。2024年11月，中美兩國領導人在智利利馬會晤，雙方就有必要加強國際合作，促進人工智能向善普惠，維持由人類控制核武器使用的決定達成一致，獲得國際社會廣泛好評。如今，距離上一次中美人工智能政府間對話會議已經近一年，雙方下次人工智能政府間對話仍未提上正式議程。而與此同時，僅2024年一年，美方共數次發布針對中國的人工智能管制措施和政策，拜登政府在針對中國的AI技術出口管制措施上仍在不斷加碼。

▲2024年5月14日，中美人工智能政府間對話首次會議在瑞士日內瓦舉行。

弗里德曼先生確實看到了中美兩國在人工智能問題上進行合作的必要性和緊迫性，但在當前中美博弈的背景下，中美兩國要想實現真正意義上的人工智能治理對話與合作，構建應對人工智能“生存性”風險的合作治理框架，必須首先跳出當前存在的“安全困境”。

“安全困境”是美國政治學者約翰·赫茨于1950年提出，指的是國家在追求自身安全的過程中，由于缺乏信任，可能導致軍備競賽、緊張局勢升級，甚至引發沖突。這一困境的根本原因在于各國對彼此意圖的不確定性，以及國際體系中無政府狀態導致的安全焦慮。根據郝茨定義，安全困境存在以下幾類要素：一是無政府狀態的國際環境，缺乏規范行為和保護行為體免受攻擊的權威組織或機構；二是行為體之間的相互懷疑和恐懼，對對方意圖的不確定性；三是各行為體為尋求安全而強化競爭和采取安全措施；四是對所有行為體安全的減損。中美兩國在人工智能上的競爭與合作呈現出“安全困境”的種種跡象。

中美之間進行人工智能治理合作，需要努力走出“安全困境”，而在當前背景下重建最基本的信任是唯一出路，需要雙方都采取切實措施，一步一步做出調整。一是需要調整對彼此國家的認知和定位。如一定程度的競爭不可避免，那也要避免你死我活、非黑即白、零和博弈的惡性競爭。這是雙方進行合作的認知前提。二是為國家安全設定紅線，明確哪些為無法合作和交流的敏感領域，同時克制無限擴大這些領域的沖動。這是為雙方合作提供確定性的基礎。第三，在劃定紅線的基礎上，可嘗試在低敏感領域開展交流與合作，例如兩國可圍繞AI治理的政策和原則、最佳實踐、能力建設上進行對話，以期增進相互了解，形成自身在對方眼中的可預測性和可解釋性，逐步建立信任。第四，2024年兩國在聯合國大會相互聯署各自關于人工智能的決議，為國際社會樹立了良好典范，未來應繼續在聯合國框架下共同推動人工智能國際治理，探討建立規范相關行為和保護行為體的權威組織或機構。第五，作為人工智能技術與能力的兩個大國，中美應攜手推動人工智能能力建設，為提高發展中國家人工智能能力水平，縮小數字鴻溝，推動實現聯合國可持續發展目標貢獻力量。

高端訪談

更多訪談

基金會動態

更多動態

中美聚焦網｜中美交流基金會