2025年4月25日下午，上海論壇分論壇“全球人工智能治理：藩籬與未來路徑”在上海國際會議中心順利召開。本次論壇由復旦大學主辦，復旦大學發(fā)展研究院承辦，旨在匯聚國際智庫、學術(shù)界與產(chǎn)業(yè)界力量，就人工智能在全球治理中的制度障礙、安全風險與可持續(xù)發(fā)展路徑進行跨領(lǐng)域、高層次的對話與協(xié)作。與會專家系統(tǒng)性地提出了務實可行的政策建議和技術(shù)路線圖，為構(gòu)建開放、包容、公正的全球人工智能治理新格局提供了重要智識支撐。本次分論壇由復旦大學發(fā)展研究院副教授、復旦大學金磚國家研究中心副主任江天驕與復旦大學發(fā)展研究院副研究員、上海數(shù)據(jù)研究院特聘研究員姚旭共同主持。

上半場，聯(lián)合國前副秘書長Kim Won-soo、日內(nèi)瓦安全政策中心執(zhí)行主任Thomas Greminger、美國降低核威脅倡議組織副總裁Lynn Rusten、宏理國際總裁Eric Richardson、戰(zhàn)略預見集團總裁Sundeep Waslekar、西蒙長期治理研究所聯(lián)合創(chuàng)始人兼聯(lián)合首席執(zhí)行官Maxime Stauffer、戰(zhàn)略預見集團執(zhí)行主任Ilmas Futehally、嘉川大學法學教授、人工智能·數(shù)據(jù)與政策研究中心主任Kyoungjin Choi等八位專家，從多邊框架與制度設(shè)計入手，深入剖析了區(qū)域監(jiān)管協(xié)調(diào)與機制創(chuàng)新的重要性；針對人工智能在軍事和核風險領(lǐng)域的特殊挑戰(zhàn)，提出了前瞻性的協(xié)同治理思路。

聯(lián)合國前副秘書長Kim Won-soo指出：當前人工智能的技術(shù)和規(guī)范之間正在產(chǎn)生逐步擴大的藩籬和鴻溝。第一是政治鴻溝，即全球南北方尚未形成就人工智能治理協(xié)調(diào)一致的法律法規(guī)；第二是價值鴻溝，比如西方國家聚焦于自由主義和隱私保護，而中國將國家安全放在首位；第三是單邊主義與多邊主義之間的鴻溝，這將決定未來人工智能全球治理的基本路徑；第四是技術(shù)上的鴻溝，應通過搭建集成化的人工智能技術(shù)框架來應對人工智能的分布式特征。

日內(nèi)瓦安全政策中心執(zhí)行主任Thomas Greminger指出，中國和歐盟的人工智能治理都強調(diào)保護公民的個人權(quán)利，雙方基于共同的治理理念，展現(xiàn)出深層次戰(zhàn)略合作潛力。通過中歐強強聯(lián)合，可以凝聚國際共識，共同塑造未來的人工智能全球治理框架。

美國降低核威脅倡議組織副總裁Lynn Rusten指出，接入AI系統(tǒng)的核武器控制系統(tǒng)正在愈發(fā)普及，且可能加劇核擴散。必須重視外交手段，提升核大國間的戰(zhàn)略互信，同時克制對核武器庫的擴大，停止核軍備競賽。此外，Lynn Rusten呼吁中美之間盡快重啟降低AI核武器的軍事對話，并推動構(gòu)建標準體系，對AI時代的核能力進行有效評估。

宏理國際總裁Eric Richardson提出了人工智能安全風險管控的三步走策略，即“風險識別”“治理框架設(shè)計”和“采取治理行動”。其中最重要的環(huán)節(jié)在于“風險識別”，應該盡快凝聚共識，在AI的軍事風險沒有帶來大規(guī)模負面影響之前防患于未然。

戰(zhàn)略預見集團總裁Sundeep Waslekar與戰(zhàn)略預見集團執(zhí)行主任Ilmas Futehally指出，中美及西方國家在AI治理方面已展開諸多對話，應該在AI治理中聆聽全球南方國家觀點、了解各國異同、促成南北國家達成共識。為保證全球南方國家對AI治理的參與，應該建立全球協(xié)調(diào)框架監(jiān)管算力和應用、打造全球AI加速器，匯聚科研及開發(fā)人員合作互助、利用本地力量，建立本地AI管理空間，推動AI合理發(fā)展。

西蒙長期治理研究所聯(lián)合創(chuàng)始人兼聯(lián)合首席執(zhí)行官Maxime Stauffer指出，AI發(fā)展帶來了三重權(quán)力轉(zhuǎn)變，即AI開發(fā)者與非開發(fā)者之間、AI開發(fā)者和開發(fā)者之間以及人類與AI系統(tǒng)之間的權(quán)力變化，且目前缺乏有效控制手段。對此，應該專注民用AI研發(fā)，在硬件和對話等方面加強治理；建立AI研發(fā)標準，建立類似應對氣候變化的協(xié)商對話機制；建立國家間信任，透明化報告AI事故，制定并分享規(guī)范文件，通過增強治理合作和透明度來降低不確定性和風險。

嘉川大學法學教授、人工智能·數(shù)據(jù)與政策研究中心主任Kyoungjin Choi分享了韓國在AI治理領(lǐng)域的道路選擇。他指出，美國的AI治理過于強調(diào)國防、安全，而歐盟過于強調(diào)監(jiān)管，韓國則希望選擇“第三條路徑”，做好發(fā)展和風險的平衡。各國需凝聚共識，平衡發(fā)展與安全，遵循保護人類尊嚴、促進繁榮的原則進行AI治理。韓國愿為全球AI治理貢獻力量，推動國際合作。

下半場，上海社會科學院新聞研究所互聯(lián)網(wǎng)治理研究中心主任方師師、中國信通院人工智能研究所所長、中國-金磚國家人工智能發(fā)展與合作中心辦公室主任魏凱、聯(lián)合國工業(yè)發(fā)展組織全球工業(yè)人工智能聯(lián)盟卓越中心秘書長徐純、中國電子技術(shù)標準化研究院信息技術(shù)研究中心副主任、全國數(shù)標委副秘書長張群、上海國際問題研究院網(wǎng)絡空間國際治理研究中心秘書長封帥、同濟大學網(wǎng)絡空間國際治理研究基地常務副主任魯傳穎等七位專家，聚焦人工智能基礎(chǔ)設(shè)施與產(chǎn)業(yè)實踐，從大語言模型基礎(chǔ)設(shè)施的普惠潛力到數(shù)字不平等再均衡、從產(chǎn)業(yè)安全治理到可持續(xù)發(fā)展倡議，再到數(shù)據(jù)標準對接，全面探討了在實踐層面推進人工智能治理的路徑，強調(diào)數(shù)字基礎(chǔ)設(shè)施公平配置與國際技術(shù)標準協(xié)同發(fā)展的必要性。

上海社會科學院新聞研究所互聯(lián)網(wǎng)治理研究中心主任方師師指出，大語言模型具備成為全球數(shù)字基礎(chǔ)設(shè)施的潛力，但目前仍受制于發(fā)展不平等和地緣政治因素，需通過技術(shù)優(yōu)化和全球協(xié)作實現(xiàn)更均衡的發(fā)展。可探索以中文大模型為代表的新路徑，促進全球南方國家的技術(shù)賦能。

中國信通院人工智能研究所所長魏凱指出，人工智能安全治理需要多主體參與：政府負責制定政策與標準，企業(yè)要落實法規(guī)和標準，加強行業(yè)自律，第三方機構(gòu)開展認證測試，學術(shù)界為治理提供技術(shù)和理論支持，公眾AI素養(yǎng)也需要持續(xù)提升，共同形成“以人為本、智能向善”協(xié)同治理格局。

聯(lián)合國工業(yè)發(fā)展組織全球工業(yè)人工智能聯(lián)盟卓越中心秘書長徐純指出，人工智能作為引領(lǐng)性技術(shù)，正深刻改變產(chǎn)業(yè)格局，但同時也面臨算法黑箱、數(shù)據(jù)安全等治理挑戰(zhàn)，需要技術(shù)發(fā)展與倫理治理并重。全球工業(yè)人工智能聯(lián)盟卓越中心誠摯邀請各界專家加入這一全球合作平臺，共同促進人工智能在實體產(chǎn)業(yè)中的創(chuàng)新應用，為全球AI治理貢獻中國智慧和國際方案。

中國電子技術(shù)標準化研究院信息技術(shù)研究中心副主任張群指出，中國積極參與ISO/IEC等國際標準組織的相關(guān)工作，推動人工智能數(shù)據(jù)領(lǐng)域的國際標準制定。標準化工作既是落實國家數(shù)據(jù)政策的具體舉措，也是連接宏觀治理要求與產(chǎn)業(yè)實踐的重要橋梁，旨在為人工智能發(fā)展提供規(guī)范化的數(shù)據(jù)基礎(chǔ)支撐。

上海國際問題研究院網(wǎng)絡空間國際治理研究中心秘書長封帥指出，AI治理已成為全球共識，其與產(chǎn)業(yè)發(fā)展呈共生關(guān)系。當前治理進程呈現(xiàn)多元化特征，各國政府、國際組織、企業(yè)、學界等主體共同參與，但利益訴求差異導致治理圖景碎片化，國際競爭不可避免。同時，AI治理體系建設(shè)長期滯后于技術(shù)迭代速度。法律程序周期難以匹配技術(shù)革新節(jié)奏，實現(xiàn)敏捷治理面臨巨大挑戰(zhàn)。因此，加強國際對話尤為重要，上海論壇等平臺通過促進知識精英交流，為構(gòu)建合作網(wǎng)絡提供契機。唯有在競爭中保持開放溝通，才能推動AI治理行穩(wěn)致遠，實現(xiàn)技術(shù)創(chuàng)新與人類福祉的平衡發(fā)展。

同濟大學網(wǎng)絡空間國際治理研究基地常務副主任魯傳穎指出，AI技術(shù)的擴散是一把“雙刃劍”，既可以縮小南北方差異，也可能到來新的不穩(wěn)定和風險。要兼顧多邊主義原則和各利益攸關(guān)方原則開展全球AI治理，保證國家統(tǒng)籌協(xié)調(diào)和企業(yè)、社會、市場的平等參與，需要構(gòu)建一個凝聚國際共識的標準化框架，使多邊各方肩負起各自的責任。

本次分論壇以多元對話與深入研討相結(jié)合的方式，既為學術(shù)界與決策層搭建了人工智能全球治理的高水平交流平臺，也為人工智能產(chǎn)業(yè)界提供了前瞻性政策藍圖和技術(shù)指引。與會專家一致認為，應共同助力全球南方國家提升人工智能治理能力、彌合智能鴻溝，推動全球南北協(xié)同創(chuàng)新，實現(xiàn)技術(shù)進步與社會價值的共融共贏，以制度設(shè)計、政策研究和產(chǎn)業(yè)實踐為抓手，共同推進公平、透明、可持續(xù)的全球人工智能治理體系建設(shè)。