2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議于7月4日正式拉開(kāi)帷幕。本次大會(huì)以“以共商促共享，以善治促善智”為主題，深度聚焦“治”與“智”的平衡與融合。而作為中國(guó)和全球人工智能前沿技術(shù)的重要展示平臺(tái)，黨和國(guó)家領(lǐng)導(dǎo)人也對(duì)世界人工智能大會(huì)寄予厚望。國(guó)務(wù)院總理李強(qiáng)出席開(kāi)幕式并發(fā)表主旨演講，在保持對(duì)科技、產(chǎn)業(yè)、人文等領(lǐng)域深度探討的基礎(chǔ)上，著重強(qiáng)調(diào)了“治理”這一關(guān)鍵詞。此次盛會(huì)為全球發(fā)展注入新動(dòng)能的同時(shí)，更為全球人工智能治理提供了一個(gè)“議事平臺(tái)”，以開(kāi)放共享的姿態(tài)，共同推動(dòng)人工智能領(lǐng)域的健康、有序發(fā)展。

發(fā)展與安全作為人工智能治理的“左膀右臂”，缺一不可。清華大學(xué)人工智能?chē)?guó)際治理研究院院長(zhǎng)薛瀾稱(chēng)：“關(guān)于未來(lái)可能達(dá)成的全球性共識(shí)，我們首先要明確，人工智能治理有兩個(gè)核心內(nèi)容。一是發(fā)展問(wèn)題，即如何構(gòu)建良好的制度規(guī)則，推動(dòng)人工智能創(chuàng)新發(fā)展，科技向善；一是安全問(wèn)題，包括保證安全底線和防范其他風(fēng)險(xiǎn)。這是所有治理邏輯都必須依托的出發(fā)點(diǎn)。”

那么從發(fā)展的角度看，人工智能產(chǎn)業(yè)是如何成為我國(guó)經(jīng)濟(jì)高質(zhì)量發(fā)展的一大推手的呢？以其前沿技術(shù)和創(chuàng)新驅(qū)動(dòng)，人工智能產(chǎn)業(yè)正引領(lǐng)著我國(guó)科技、產(chǎn)業(yè)、經(jīng)濟(jì)等多個(gè)領(lǐng)域的深刻變革。李強(qiáng)在此次世界人工智能大會(huì)開(kāi)幕式上強(qiáng)調(diào)，人工智能的新技術(shù)不斷突破、新業(yè)態(tài)持續(xù)涌現(xiàn)、新應(yīng)用加快拓展，已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。

當(dāng)前，人工智能正處在一個(gè)充滿活力、快速發(fā)展的時(shí)期，它既是戰(zhàn)略性的新興產(chǎn)業(yè)，也是引領(lǐng)未來(lái)的關(guān)鍵力量。根據(jù)中國(guó)信通院發(fā)布的數(shù)據(jù)，我國(guó)人工智能產(chǎn)業(yè)規(guī)模從2019年開(kāi)始快速增長(zhǎng)，到2023年已經(jīng)達(dá)到了5784億元。作為新產(chǎn)業(yè)變革的關(guān)鍵驅(qū)動(dòng)力，人工智能已在研發(fā)設(shè)計(jì)、生產(chǎn)制造等領(lǐng)域展現(xiàn)出驚人的實(shí)力。據(jù)預(yù)測(cè)，到2030年，中國(guó)人工智能核心產(chǎn)業(yè)的規(guī)模可能突破1萬(wàn)億元，并帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模超過(guò)10萬(wàn)億元。從智能制造到智慧醫(yī)療，再?gòu)闹悄芙煌ǖ街腔劢逃斯ぶ悄苷臒o(wú)聲息地改變著我們的生活。

因此，積極推進(jìn)人工智能與各行業(yè)的深度融合，形成新的生產(chǎn)力，已成為當(dāng)前最為緊要的任務(wù)。過(guò)去，我們面臨的最大挑戰(zhàn)是如何在“場(chǎng)景創(chuàng)新”中部署人工智能，但隨著技術(shù)的飛速發(fā)展和產(chǎn)業(yè)的深度融合，人工智能的應(yīng)用場(chǎng)景愈加廣泛。尤其是在特定的、與人工智能發(fā)展更為契合的行業(yè)領(lǐng)域中得到了廣泛應(yīng)用，從人工智能核心技術(shù)的合作密度來(lái)看，大數(shù)據(jù)和云計(jì)算的占比接近一半，達(dá)到46.47%;其次是物聯(lián)網(wǎng)和5G技術(shù)，分別達(dá)到10.7%和8.1%;智能機(jī)器人、計(jì)算機(jī)視覺(jué)、自動(dòng)駕駛分別占比6.39%、4.08%、4.05%。

人工智能通過(guò)圍繞場(chǎng)景整合技術(shù)、人才和數(shù)據(jù)等各種因素，進(jìn)一步加快了技術(shù)變革的速度，而技術(shù)創(chuàng)新能力的提升，也將推動(dòng)新產(chǎn)品的開(kāi)發(fā)，激勵(lì)人工智能相關(guān)企業(yè)更多地投入到智能管理、關(guān)鍵技術(shù)研發(fā)和應(yīng)用場(chǎng)景培育新產(chǎn)品上。例如，人形機(jī)器人、腦機(jī)接口等公司正在大力支持深耕場(chǎng)景創(chuàng)新，參與更多行業(yè)場(chǎng)景的建設(shè)，為人工智能產(chǎn)業(yè)的孵化升級(jí)提供強(qiáng)大的“加速度”。這不僅將推動(dòng)人工智能產(chǎn)業(yè)的發(fā)展，也將進(jìn)一步推動(dòng)我國(guó)科技創(chuàng)新的進(jìn)程。

不過(guò)，發(fā)展人工智不能光想著“快進(jìn)鍵”，治理跟上才是硬道理。據(jù)《2024人工智能安全報(bào)告》顯示，人工智能技術(shù)的惡意使用增長(zhǎng)迅速，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚(yú)郵件增長(zhǎng)了1000%；目前已發(fā)現(xiàn)有多個(gè)有國(guó)家背景的APT組織，利用AI實(shí)施了十余起網(wǎng)絡(luò)攻擊事件……在政治安全、網(wǎng)絡(luò)安全、物理安全和軍事安全等方面構(gòu)成嚴(yán)重威脅。

為此，2024人工智能大會(huì)開(kāi)幕式上，上海向全球發(fā)布了《人工智能全球治理上海宣言》。宣言中提到：“隨著人工智能技術(shù)快速發(fā)展，我們也面臨前所未有的挑戰(zhàn)，特別是在安全和倫理方面。”同時(shí)，宣言強(qiáng)調(diào)了共同促進(jìn)人工智能技術(shù)發(fā)展和應(yīng)用的必要性，確保其發(fā)展過(guò)程中的安全性、可靠性、可控性和公平性，促進(jìn)人工智能技術(shù)賦能人類(lèi)社會(huì)發(fā)展。

宣言發(fā)布現(xiàn)場(chǎng) 圖源：央視

要想讓人工智能治理走在正確的道路上，還得靠技術(shù)創(chuàng)新和倫理探索雙管齊下。清華大學(xué)戰(zhàn)略與安全研究中心主任、外交部前副部長(zhǎng)傅瑩認(rèn)為：“人工智能的應(yīng)用本質(zhì)是技術(shù)應(yīng)用，對(duì)其治理須緊緊抓住其技術(shù)本質(zhì)，特別是在安全治理上，從源頭抓起更容易取得效果。”一方面，通過(guò)技術(shù)創(chuàng)新增強(qiáng)人工智能的安全性和可靠性，這不僅包括對(duì)現(xiàn)有技術(shù)的研究和改進(jìn)，也包括進(jìn)一步探索新的安全防護(hù)機(jī)制，以確保人工智能技術(shù)在各個(gè)領(lǐng)域的應(yīng)用都能夠得到有效的保障。

另一方面，加強(qiáng)人工智能倫理方面的探索，例如數(shù)據(jù)偏見(jiàn)可能導(dǎo)致的歧視現(xiàn)象，需要建立公平的數(shù)據(jù)采集和處理機(jī)制以引導(dǎo)技術(shù)合理應(yīng)用，避免其對(duì)社會(huì)造成的負(fù)面影響。只有在技術(shù)創(chuàng)新與安全保障、倫理探索與合理應(yīng)用之間尋找最佳平衡點(diǎn)，才能確保人工智能領(lǐng)域的健康、可持續(xù)發(fā)展，真正為人類(lèi)社會(huì)的進(jìn)步做出貢獻(xiàn)。

當(dāng)然，要保證人工智能產(chǎn)業(yè)生態(tài)的健康成長(zhǎng)，一套清晰嚴(yán)格的標(biāo)準(zhǔn)體系是必不可少的。這些標(biāo)準(zhǔn)的制定將為人工智能的廣泛應(yīng)用和產(chǎn)業(yè)化進(jìn)程提供堅(jiān)實(shí)的保障，從而確保其產(chǎn)業(yè)生態(tài)的平穩(wěn)運(yùn)行。近日，工信部等四部門(mén)印發(fā)的《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南(2024版)》，明確提出到2026年，標(biāo)準(zhǔn)與產(chǎn)業(yè)科技創(chuàng)新的聯(lián)動(dòng)水平持續(xù)提升，新制定國(guó)家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)50項(xiàng)以上，引領(lǐng)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的標(biāo)準(zhǔn)體系加快形成。特別是聚焦于生成式人工智能、元宇宙、腦機(jī)接口等未來(lái)行業(yè)時(shí)，標(biāo)準(zhǔn)化的重要性將呈指數(shù)級(jí)放大。

隨著人工智能影響力的國(guó)際化擴(kuò)張，如何彌合其數(shù)字鴻溝是國(guó)際社會(huì)面臨的重大課題。據(jù)國(guó)際電信聯(lián)盟（ITU）發(fā)布的《衡量數(shù)字發(fā)展：2023年事實(shí)與數(shù)字》報(bào)告顯示，在歐洲、獨(dú)立國(guó)家聯(lián)合體以及美洲地區(qū)，約有九成人口已接入互聯(lián)網(wǎng)服務(wù)，相比之下，非洲地區(qū)的互聯(lián)網(wǎng)普及率則稍顯滯后，目前僅有大約37%的人口能夠使用互聯(lián)網(wǎng)。對(duì)于眾多發(fā)展中國(guó)家而言，數(shù)字基礎(chǔ)設(shè)施的薄弱與創(chuàng)新應(yīng)用能力的不足，使得原本應(yīng)作為縮小數(shù)字鴻溝的人工智能技術(shù)，在實(shí)際應(yīng)用中卻未能有效發(fā)揮其預(yù)期作用，反而導(dǎo)致了數(shù)字鴻溝的進(jìn)一步加劇。

在此背景下，中國(guó)應(yīng)當(dāng)如何引領(lǐng)跨越數(shù)字鴻溝？就在近日，第78屆聯(lián)合國(guó)大會(huì)協(xié)商一致通過(guò)中國(guó)主提的加強(qiáng)人工智能能力建設(shè)國(guó)際合作決議，這是聯(lián)合國(guó)通過(guò)的首份聚焦人工智能能力建設(shè)國(guó)際合作的決議。該決議主張?jiān)鰪?qiáng)發(fā)展中國(guó)家在人工智能全球治理中代表性和發(fā)言權(quán)，強(qiáng)調(diào)要營(yíng)造公平、非歧視的商業(yè)環(huán)境，明確支持聯(lián)合國(guó)發(fā)揮中心作用，充分彰顯了中國(guó)對(duì)人工智能發(fā)展和治理的重要引領(lǐng)作用。

非洲的互聯(lián)網(wǎng)普及率近年來(lái)在逐漸提升 圖源：中新網(wǎng)

李強(qiáng)也在此次人工智能大會(huì)中指出，要推動(dòng)普惠發(fā)展，彌合智能鴻溝。通過(guò)打造開(kāi)放、公平、非歧視的人工智能發(fā)展環(huán)境，幫助中低收入國(guó)家加強(qiáng)能力建設(shè)，以期縮小這種鴻溝差距。通過(guò)廣泛拓展在研發(fā)創(chuàng)新、數(shù)據(jù)共享、安全保障等領(lǐng)域的共識(shí)與合作，并始終秉持著開(kāi)放、合作、共贏的國(guó)際關(guān)系理念，在人工智能這一前沿領(lǐng)域，中國(guó)展現(xiàn)出了大國(guó)的擔(dān)當(dāng)與智慧，為推動(dòng)全球人工智能事業(yè)的健康發(fā)展貢獻(xiàn)了中國(guó)力量。

未來(lái)，人工智能的發(fā)展呈現(xiàn)加速前進(jìn)的趨勢(shì)，相應(yīng)地，人工智能治理也應(yīng)向著更高水平前進(jìn)。尤其在技術(shù)和產(chǎn)業(yè)不斷迭代更新的時(shí)代背景下，我們需充分利用世界人工智能大會(huì)這一國(guó)際平臺(tái)挖掘現(xiàn)實(shí)機(jī)遇并發(fā)掘和防范潛在風(fēng)險(xiǎn)，提高我國(guó)在全球人工智能領(lǐng)域的競(jìng)爭(zhēng)力。同時(shí)，加強(qiáng)國(guó)際合作與交流，共同推動(dòng)人工智能技術(shù)的發(fā)展和治理水平提升，確保人工智能治理始終保持在正確的軌道上，并引領(lǐng)全球人工智能產(chǎn)業(yè)朝著健康、可持續(xù)的方向發(fā)展。