2025年4月，牛津大學(xué)中國政策實驗室（Oxford China Policy Lab）聯(lián)合劍橋大學(xué)等多家機(jī)構(gòu)發(fā)表政策研究報告《將人工智能安全視為全球公共產(chǎn)品：影響、挑戰(zhàn)與研究優(yōu)先項》（Examining AI Safety as a Global Public Good: Implications, Challenges, and Research Priorities），系統(tǒng)探討了人工智能安全治理的全球公共屬性。借鑒氣候變化、核安全與全球健康治理等領(lǐng)域經(jīng)驗，應(yīng)將人工智能安全視為具有非排他性和非競爭性的“全球公共產(chǎn)品”（Global Public Good），需在協(xié)調(diào)責(zé)任分配、促進(jìn)公平發(fā)展、緩解安全與能力糾纏等方面展開系統(tǒng)應(yīng)對。啟元洞見編譯整理了其中的核心內(nèi)容，以供讀者參考。

一、引言

（一）研究背景

人工智能的迅猛發(fā)展既帶來機(jī)遇也伴隨挑戰(zhàn)。當(dāng)前，國際對話正從公共產(chǎn)品視角探討人工智能治理。該框架揭示了安全研究投入不足與協(xié)作障礙：若將人工智能安全視為全球公共產(chǎn)品（GPG），相關(guān)知識與措施應(yīng)普遍可得，惠及所有利益相關(guān)方。

但現(xiàn)實挑戰(zhàn)顯著：技術(shù)保護(hù)主義加劇“數(shù)字鴻溝”，而現(xiàn)有系統(tǒng)的偏見問題與未來可能威脅人類主體地位的風(fēng)險，共同凸顯治理緊迫性。確保人工智能安全開發(fā)——防范風(fēng)險同時保留技術(shù)紅利——本身就是關(guān)鍵的全球公共產(chǎn)品。

本文通過公共產(chǎn)品框架，探討人工智能風(fēng)險管控的理論與實踐，分析責(zé)任分配與公平參與機(jī)制，為未來國際合作提供研究議程。

（二） “全球公共產(chǎn)品”作為國際進(jìn)步
的基礎(chǔ)框架

全球公共產(chǎn)品作為分析框架，強(qiáng)調(diào)在跨越國界的集體挑戰(zhàn)治理中的作用。與傳統(tǒng)公共產(chǎn)品相比，其具有“非競爭”“非排他”兩大特征，其效益遍及全球，且不因個體使用而減少，也不因地理或貢獻(xiàn)差異而被排除。

在人工智能安全領(lǐng)域，市場機(jī)制難以充分提供所需安全投入：各方在承擔(dān)成本與共享收益上存在搭便車動機(jī)，導(dǎo)致安全研究與基礎(chǔ)設(shè)施投資不足，難以應(yīng)對系統(tǒng)性風(fēng)險、算法偏見或災(zāi)難性故障。

因此，應(yīng)用GPG框架有助于：

1. 為國際協(xié)調(diào)提供經(jīng)濟(jì)與政治邏輯，凸顯單邊或市場導(dǎo)向措施的局限；

2.論證增強(qiáng)公共投資的必要性，以彌補市場失靈；

3. 借鑒氣候變化與公共衛(wèi)生領(lǐng)域的制度與資助模式，為人工智能安全設(shè)計組織架構(gòu)；

4.考察“特權(quán)群體”動力學(xué)，即具備足夠資源的國家可獨立提供全球公共產(chǎn)品，既維護(hù)自身利益又促進(jìn)整體安全，但其無協(xié)調(diào)行動亦可能激化競賽，削弱公共產(chǎn)品供給。

但關(guān)鍵在于界定人工智能發(fā)展中亟需保護(hù)與提供的核心公共產(chǎn)品。只有明確人工智能安全的公共產(chǎn)品范疇，才能為構(gòu)建有效的全球治理與協(xié)調(diào)機(jī)制奠定根基。

二、界定人工智能領(lǐng)域的
公共產(chǎn)品

借鑒“清潔空氣”“傳染病防控”“無跨國沖突”等全球公共產(chǎn)品，我們從人工智能的益處與風(fēng)險兩方面，探討如何將其納入公共產(chǎn)品框架。

（一）高級人工智能的公共產(chǎn)品維度

類比于“獲得清潔空氣”和“傳染病防控”這類基本需求，人工智能領(lǐng)域也存在需保障的“資源可及性”（如算力、數(shù)據(jù)共享）和需規(guī)避的“系統(tǒng)性風(fēng)險”（如失控或濫用）。下表依據(jù)其特征，梳理了各類對應(yīng)政策工具，助力后文框架應(yīng)用。

表1 全球公共產(chǎn)品比較框架

（二）國際視角下的應(yīng)用實踐

以下為不同國際倡議從各自角度將人工智能相關(guān)事項視為公共產(chǎn)品的實踐案例：

• 《國際人工智能安全對話·威尼斯聲明》：將安全協(xié)議與驗證機(jī)制視作可被普惠享用的技術(shù)公共品；

• 《曼哈頓宣言：包容性全球科學(xué)理解》：強(qiáng)調(diào)科學(xué)知識共享的公共價值；

• 《人工智能安全作為全球公共產(chǎn)品報告》：將治理能力本身納入公共產(chǎn)品范疇，借鑒跨境協(xié)同；

• 聯(lián)合國高層咨詢報告《為人類治理人工智能》：提出技術(shù)安全、知識、制度與基礎(chǔ)設(shè)施等多層面公共品需協(xié)同構(gòu)建。

這些框架均指出，雖然人工智能安全、知識或治理在理論上具備非排他、非競爭屬性，但其實施依賴的標(biāo)準(zhǔn)、認(rèn)證與治理模型往往具備排他性或競爭性特征，導(dǎo)致市場及協(xié)調(diào)失靈。

（三）公共產(chǎn)品分析的啟示

高級人工智能領(lǐng)域的公共利益呈現(xiàn)為三重互聯(lián)層面：技術(shù)層面上的安全與可靠性可視為核心公共產(chǎn)品，但其依賴的開源工具、測試框架與能力增強(qiáng)技術(shù)在國家競爭中仍具排他性；知識層面的科學(xué)認(rèn)知與治理經(jīng)驗雖具共享價值，卻因?qū)I(yè)資源集中而面臨獲取不均；制度層面的治理框架與應(yīng)急機(jī)制可跨境復(fù)制，卻需專門人才與機(jī)構(gòu)能力，具有暫時排他性。

基于此，可將人類能動性（個體控制與選擇權(quán)）、安全知識（最佳實踐與經(jīng)驗共享）和治理能力（跨國協(xié)同機(jī)制）視作推動人工智能安全的三大公共基礎(chǔ)。

多維框架有助識別無國界風(fēng)險，并指導(dǎo)建立統(tǒng)一的安全標(biāo)準(zhǔn)與評估工具，以兼顧人權(quán)保障、系統(tǒng)可控、國際協(xié)調(diào)與公平部署。

三、 將“全球公共產(chǎn)品”框架
應(yīng)用于人工智能安全

基于此前理論框架，本節(jié)探討如何將該概念具體應(yīng)用于人工智能安全。雖然算力、資金與人才等資源通常具有排他性和競爭性，但安全研究生成的知識（如魯棒性和可解釋性方法）往往可被廣泛共享。盡管部分成果初期受到知識產(chǎn)權(quán)限制，長遠(yuǎn)看仍會通過開源與開放出版方式惠及全球。

理論上該框架有助于推動國際協(xié)調(diào)，但現(xiàn)實中其應(yīng)用仍面臨政治阻力與執(zhí)行挑戰(zhàn)。因此，理解不同治理層級下的實踐路徑，是構(gòu)建有效人工智能安全機(jī)制的關(guān)鍵。

（一）地區(qū)、國家與全球?qū)蛹壪碌?br/>人工智能安全治理

歷史經(jīng)驗表明，核能、航空和食品等領(lǐng)域的安全治理往往從地方或國家層面起步，再擴(kuò)展為國際制度。例如，美國“三哩島事件”推動核安全本土監(jiān)管的強(qiáng)化，最終引發(fā)國際標(biāo)準(zhǔn)建設(shè)。

人工智能同樣如此。盡管其風(fēng)險具有跨國性，很多初期挑戰(zhàn)仍集中于本地層面，如系統(tǒng)測試或基礎(chǔ)設(shè)施可靠性。應(yīng)對這些局部問題有助于構(gòu)建全球治理的基礎(chǔ)，并避免因問題“全球化”導(dǎo)致責(zé)任模糊。通過分層推進(jìn)，國家可在本地范圍內(nèi)承擔(dān)責(zé)任，也有助于協(xié)調(diào)人工智能研發(fā)強(qiáng)國與主要受影響國家之間的利益。

基于此，公共產(chǎn)品提供路徑的三種模式及其對人工智能安全的啟示：

1. 總量型（Aggregate Efforts）：通過多方協(xié)作形成標(biāo)準(zhǔn)，如聯(lián)合制定人工智能安全評估機(jī)制。須防范“監(jiān)管套利”，確保開發(fā)者不會因規(guī)避監(jiān)管遷往標(biāo)準(zhǔn)薄弱地區(qū)。

2. 最薄弱環(huán)節(jié)型（Weakest Link）：強(qiáng)調(diào)全球最低安全保障。如同疫情防控，人工智能任一地區(qū)若缺乏基本監(jiān)控能力，皆可能引發(fā)廣泛風(fēng)險。

3. 突破性成果型（Single Best-Shot）：聚焦關(guān)鍵技術(shù)突破（如魯棒性驗證工具），一旦成熟便可全球應(yīng)用。該路徑強(qiáng)調(diào)集中資源解決核心問題，兼顧全球分發(fā)機(jī)制。

不同路徑適用于不同場景，合理組合應(yīng)結(jié)合技術(shù)實際與政治可行性，以形成責(zé)任明晰、步驟漸進(jìn)的全球協(xié)作機(jī)制。

（二） 政治現(xiàn)實、權(quán)力動態(tài)與實施路徑

將人工智能安全納入全球公共產(chǎn)品框架，需審慎考慮現(xiàn)實政治局勢及歷史經(jīng)驗中的權(quán)力分配與執(zhí)行難題。當(dāng)前討論中，人工智能安全多被合理歸責(zé)于先進(jìn)人工智能機(jī)構(gòu)與主要國家，形成明確的道德責(zé)任。但全球公共產(chǎn)品框架可能導(dǎo)致責(zé)任分散，削弱行動壓力。

在激勵層面，個體利益與集體福祉之間存在錯位。盡管所有主體都受益于健全的人工智能安全措施，單個行為者卻可能因成本本地化、收益全球化而缺乏足夠投入動力。這與氣候變化治理中各國減排動力不足的問題相似。

同時，人工智能安全工作與能力提升往往交織推進(jìn)，帶來治理上的雙重挑戰(zhàn)：提高安全水平的同時也可能加速技術(shù)風(fēng)險擴(kuò)散。

1. 國家利益與不平等

全球公共產(chǎn)品框架在面對根深蒂固的國家利益、權(quán)力差距與高昂成本時，往往難以落實。各國因技術(shù)實力與戰(zhàn)略考量，對人工智能安全合作動力不足，易陷“囚徒困境”；主權(quán)顧慮也令其對超國家治理機(jī)制心存抵觸，資源分配與合規(guī)監(jiān)測復(fù)雜化。

在人工智能安全領(lǐng)域，發(fā)達(dá)國家掌握核心技術(shù)，發(fā)展中國家擔(dān)心安全規(guī)范會阻礙其參與人工智能經(jīng)濟(jì)，并難以依賴未來安全紅利；私營部門亦存在搭便車風(fēng)險。由此，人工智能安全治理須在本地、區(qū)域與全球?qū)蛹壊⑿型七M(jìn)，構(gòu)建可擴(kuò)展的分責(zé)任與激勵機(jī)制，同時加強(qiáng)能力建設(shè)與問責(zé)透明。

2. 安全與能力的共生悖論

人工智能安全措施往往依賴復(fù)雜技術(shù)，從而與能力提升交織，形成“安全—能力悖論”。同時，“安全漂洗”（safety-washing）現(xiàn)象頻現(xiàn)，即行為體以“安全”之名掩飾能力擴(kuò)張，令監(jiān)管與公眾難辨實際進(jìn)展。

實踐中，部分安全工作可較為獨立地推廣，例如檢測有害內(nèi)容的監(jiān)測工具、安全評估框架、事故響應(yīng)與文檔規(guī)范、可解釋性審計工具，以及基本的停機(jī)機(jī)制與訪問控制。然而，諸如技術(shù)對齊研究、高級評估框架等關(guān)鍵領(lǐng)域，則與能力提升深度綁帶。

這種糾纏使全球共享安全成果時，難以避免同時加速能力擴(kuò)散，尤其當(dāng)國家更擔(dān)憂競爭對手技術(shù)優(yōu)勢，而非自身風(fēng)險時，共享意愿將進(jìn)一步削弱，給全球公共產(chǎn)品模式帶來新的政治與治理挑戰(zhàn)。

（三）人工智能安全作為全球公共產(chǎn)品的政治學(xué)結(jié)論

主要人工智能大國傾向于保留能帶來戰(zhàn)略優(yōu)勢的安全技術(shù)，而發(fā)展中國家則擔(dān)心安全規(guī)范會拖慢其人工智能經(jīng)濟(jì)發(fā)展，二者均削弱了“優(yōu)先安全”的集體動力。

國家安全話語雖能吸引更多資源，卻易導(dǎo)致風(fēng)險范圍狹隘；區(qū)域合作可借助既有治理架構(gòu)，循序擴(kuò)展國際協(xié)調(diào)；公眾教育與參與則有助于塑造政治壓力與治理合法性，但須避免技術(shù)過度簡化或恐慌化。鑒于此，構(gòu)建有效人工智能安全全球公共產(chǎn)品需：

1. 明確區(qū)分可獨立共享的安全工具與依賴高級能力的研究；

2. 設(shè)計可信中介或選擇性披露機(jī)制，以在不泄露關(guān)鍵細(xì)節(jié)的前提下推廣核心安全方法；

3. 建立激勵結(jié)構(gòu)，兼顧私營投資與公共利益；

4. 平衡公平與問責(zé)，確保責(zé)任邊界清晰。

方案應(yīng)根據(jù)各安全要素的適用規(guī)模，靈活選擇本地、區(qū)域或國際路徑，既發(fā)揮全球公共產(chǎn)品框架優(yōu)勢，又尊重不同主體的能力與利益。

四、研究議程：全球公共產(chǎn)品
視角下的高級人工智能

本研究回顧了將人工智能安全視作全球公共產(chǎn)品的機(jī)會與局限，并指出國際聲明、理論框架與治理挑戰(zhàn)交織下的若干關(guān)鍵主題：一是該框架雖有助于協(xié)調(diào)集體行動，卻面臨實踐與理論的多重挑戰(zhàn)；二是人工智能能力的演進(jìn)要求我們動態(tài)地重塑“安全”內(nèi)涵；三是現(xiàn)有國際機(jī)制或需深度改造，抑或創(chuàng)新專門體制以有效管理人工智能安全?；诖?，亟需構(gòu)建一個兼顧即時難題與長期理論探究的研究議程，大致包括以下七大方向：

（一） 核心普適需求識別

1. 系統(tǒng)甄別需共同行動應(yīng)對的高級人工智能全球風(fēng)險；

2. 明確各發(fā)展背景下，人工智能對人類能動性與基本自由的具體威脅；

3. 界定防止重大事故或濫用的最低安全保障，以及其跨文化、跨制度的差異。

（二）人工智能安全要素與公共產(chǎn)品屬性

1. 分析魯棒性、可解釋性、監(jiān)測與透明度工具等安全手段的非排他性與普惠性；

2. 探討專利、商業(yè)機(jī)密等限制因素如何與潛在的非排他性后果交互；

3. 考察國家與全球?qū)用嫔习踩珮?biāo)準(zhǔn)與治理框架的公共產(chǎn)品特征及其實施差異。

（三） 治理層級與利益分配

1. 研究怎樣兼顧領(lǐng)先人工智能研發(fā)主體的集中能力與發(fā)展中國家的包容性參與；

2. 設(shè)計彌合“開發(fā)國”與“主要使用國”之間安全責(zé)任與收益的不平衡機(jī)制；

3. 探討在不同發(fā)展階段如何調(diào)整安全協(xié)議而不削弱其實效。

（四）治理機(jī)制創(chuàng)新

1. 解決“安全—能力悖論”：如何推廣安全成果而不助長能力競賽？

2. 構(gòu)建可信中介或選擇性披露制度，實現(xiàn)安全技術(shù)共享與核心機(jī)密保護(hù)兼顧；

3. 促進(jìn)公眾辯論與參與，化解發(fā)達(dá)與發(fā)展中國家間的信息與話語不對稱；

4. 規(guī)避既有體制中的結(jié)構(gòu)性不平等，確保所有利益相關(guān)方均有發(fā)言與監(jiān)督渠道。

（五）實施路徑與行為體響應(yīng)

1. 考察各類組織如何在文化與政治多樣性中解讀并響應(yīng)“全球公共產(chǎn)品”安全話語；

2. 分析何種激勵或約束機(jī)制最能促使私營部門與國際機(jī)構(gòu)參與協(xié)同治理；

3. 評估既有公共產(chǎn)品框架對集體行動的驅(qū)動作用及其局限。

（六）衡量與評估指標(biāo)

1. 開發(fā)區(qū)分真實安全改進(jìn)與“安全漂洗”的可量化標(biāo)準(zhǔn)；

2. 設(shè)計評估安全措施公共產(chǎn)品效用的指標(biāo)體系，包含分布與可及性考量；

3. 建立透明審計與報告機(jī)制，監(jiān)測全球范圍內(nèi)安全效益的公平分配。

（七）技術(shù)與經(jīng)濟(jì)激勵

1. 探索在避免能力過度擴(kuò)散的前提下，加速關(guān)鍵安全技術(shù)突破的途徑；

2. 研究經(jīng)濟(jì)激勵與資助模式，解決私營部門搭便車與投入不足問題；

3. 評估不同治理方案的分配效應(yīng)、權(quán)力動態(tài)及其對創(chuàng)新與問責(zé)的影響。

五、結(jié)語

人工智能安全已成全球治理核心議題，需跨學(xué)科、跨部門與跨國協(xié)作，在技術(shù)迅猛迭代下提前部署嚴(yán)格安全框架?；谇笆龅钠叽笱芯糠较?，應(yīng)當(dāng)平衡理論與實踐，通過專家、政策者與公眾持續(xù)對話、優(yōu)化策略。

只有將人工智能安全視為全球共擔(dān)的公共產(chǎn)品，才能兼顧創(chuàng)新與風(fēng)險。其成敗關(guān)乎人類福祉，也將為未來全球性挑戰(zhàn)提供治理范式。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點，如有任何異議，歡迎聯(lián)系我們！

研究所簡介

國際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機(jī)構(gòu)，主要職能是研究我國經(jīng)濟(jì)、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)。“全球技術(shù)地圖”為國際技術(shù)經(jīng)濟(jì)研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er