2024年9月23日,在第79屆聯(lián)合國大會期間,美國國務(wù)卿布林肯正式發(fā)布《AI全球研究議程》(Global AI Research Agenda)和《AI全球發(fā)展行動指南》(AI in Global Development Playbook),這兩份文件為美國政府開發(fā)的互補性文件,旨在促進未來在AI領(lǐng)域的研究合作,并指導(dǎo)發(fā)展共同體推動利用AI解決全球發(fā)展挑戰(zhàn)。
《AI全球研究議程》提出三項AI研究合作的建議原則:
包容和公平——研究應(yīng)側(cè)重于開發(fā)具有代表性、靈活性和適合其環(huán)境的AI系統(tǒng)。技術(shù)系統(tǒng)會影響期部署的社會環(huán)境;為了支持全面的研究評估和分析,以及公平地利用AI系統(tǒng)的好處,研究人員應(yīng)該努力實現(xiàn)包容性的研究過程。
負責(zé)任的研究行為——AI研究應(yīng)秉持最高標(biāo)準(zhǔn),以保護直接或間接受到研究和由此產(chǎn)生的系統(tǒng)開發(fā)影響的人的自主權(quán)、尊嚴(yán)、福祉和隱私,包括數(shù)據(jù)主體、平臺測試人員、最終用戶以及通過數(shù)據(jù)豐富或眾包平臺參與的工作人員。研究人員應(yīng)該實施框架來系統(tǒng)地評估和優(yōu)化實踐,以幫助確保過程和產(chǎn)出既可持續(xù)又負責(zé)任。
伙伴關(guān)系和協(xié)作——AI研究人員應(yīng)該尋求方法,讓受影響的個人、社區(qū)和組織作為合作者參與研究過程的早期,特別是在國際背景下,當(dāng)?shù)乩嫦嚓P(guān)者對研究的潛在用例、收益和風(fēng)險有必要和有價值的看法。參與式人工智能設(shè)計的工具、指南和培訓(xùn)迫切需要研究,以使AI從業(yè)者更容易獲得這些實踐。
該議程還提出了推動AI研究領(lǐng)域走向安全、可靠和可信的AI的優(yōu)先事項。
社會技術(shù)研究——隨著AI工具變得越來越普遍,它們將更加融入經(jīng)濟和社會。社會技術(shù)研究方法可以增強對人與技術(shù)之間相互作用的理解,提高研究人員設(shè)計和使用AI的能力,以促進人類福祉,并支持有效的AI治理和政策制定。
包容性研究基礎(chǔ)設(shè)施——可信的國際AI研究基礎(chǔ)設(shè)施是指支持AI研究和開發(fā)技術(shù)的可信的全球設(shè)施、資源和標(biāo)準(zhǔn)網(wǎng)絡(luò)。可信賴的國際研究基礎(chǔ)設(shè)施對于使世界各地的研究人員能夠參與前沿的AI研究,并能夠在自愿和共同商定的條件下跨境獲取資源、最佳實踐和知識至關(guān)重要。
在全球范圍內(nèi)建立強大且互聯(lián)互通的研究基礎(chǔ)設(shè)施也將有助于自下而上地促進可互操作和全球接受的實踐,促進全球AI系統(tǒng)的一致性和信任。可訪問且廣泛可用的研究基礎(chǔ)設(shè)施還可以促進邊緣化群體的研究人員參與AI研究和開發(fā)生態(tài)系統(tǒng),確保代表不同的觀點,并可能減少AI系統(tǒng)開發(fā)和培訓(xùn)中的偏見。
支持AI應(yīng)對全球挑戰(zhàn)的研究——通過設(shè)計新工具和開展應(yīng)用研究,創(chuàng)造一個更安全、更健康、更繁榮的世界,AI可以徹底改變知識的生產(chǎn)和利用,以應(yīng)對全球挑戰(zhàn),特別是與聯(lián)合國可持續(xù)發(fā)展目標(biāo)有關(guān)的挑戰(zhàn)。
支持應(yīng)對全球挑戰(zhàn)的AI工具的研究應(yīng)成為國際研究界的重點,因為它可以促進合作,并需要跨境匯集資源和專業(yè)知識,以解決氣候變化、全球健康和糧食不安全等緊迫問題。
AI基礎(chǔ)研究,包括AI安全、保障和信任——AI仍處于發(fā)展的早期階段,在AI系統(tǒng)被認為是安全或值得信賴之前,AI技術(shù)和治理必須取得根本性進步。最近的生成模型,如大型語言模型,會引入或加劇各種風(fēng)險,包括影響許多其他類型AI系統(tǒng)(可能包括未來幾代AI技術(shù))的穩(wěn)健性、信息完整性和隱私保護問題。
AI對全球勞動力市場的影響研究——采用以人為本、對社會負責(zé)、安全、可靠和可信的AI可以帶來可觀的經(jīng)濟效益,并加速實現(xiàn)許多可持續(xù)發(fā)展目標(biāo),包括提高勞動生產(chǎn)率、管理流程、安全、健康、公平公正的招聘和工作質(zhì)量。
AI可以通過替代和自動化重復(fù)性任務(wù)或協(xié)助日常活動和決策來積極地增強工作,這可能會減輕一些工人的負擔(dān),并使他們能夠更好地執(zhí)行其他任務(wù)。
與此同時,與勞動相關(guān)的AI實施也存在風(fēng)險,包括工作強度增加、精神壓力增加以及管理者與招聘、評估和解雇以及公平薪酬方面的決策權(quán)減少。性別差異(包括性別數(shù)字鴻溝)和其他不對稱現(xiàn)象可能會加劇,對不同行業(yè)和地區(qū)產(chǎn)生一系列不成比例的后果。
AI在勞動力市場的獲取和使用不平等也可能導(dǎo)致企業(yè)和工人之間、國家內(nèi)部和國家之間的不平衡加劇。此外,AI在工作場所的某些用途(包括加強對工人的監(jiān)督)可能會破壞集體談判和其他基本工作原則和權(quán)利,包括結(jié)社自由、不歧視以及安全和健康的工作環(huán)境。
該議程最后還對研究資助者、研究生態(tài)系統(tǒng)中心、研究團隊提出了推薦研究實踐。
《AI全球發(fā)展行動指南》為美國及其發(fā)展伙伴制定了一系列關(guān)鍵行動,以在全球范圍內(nèi)培育負責(zé)任的AI生態(tài)系統(tǒng),促進可持續(xù)發(fā)展,創(chuàng)造伙伴關(guān)系和合作機會,并應(yīng)對世界上一些最嚴(yán)峻的挑戰(zhàn)。為了提供實用指導(dǎo),該指南還包括一系列案例研究。這些案例研究中的概念介紹了在確定的領(lǐng)域中表現(xiàn)出色的現(xiàn)有的舉措和組織。
該指南提出的建議是在咨詢了數(shù)百名政府官員、非政府組織、科技公司和初創(chuàng)企業(yè)以及來自世界各地的個人之后提煉出來的,這些建議圍繞以下幾個重點領(lǐng)域構(gòu)建:
——提高能力,促進各部門和各層級的AI相關(guān)技能,保護勞動力。
——構(gòu)建可信和可持續(xù)的數(shù)字基礎(chǔ)設(shè)施。
——擴大對數(shù)據(jù)存儲和計算資源的訪問。
——創(chuàng)建具有代表性的、與當(dāng)?shù)叵嚓P(guān)的數(shù)據(jù)集并保護文化遺產(chǎn)。
——制定戰(zhàn)略,在實踐中兌現(xiàn)AI的承諾。
——推進良好治理框架,開發(fā)和使用安全和尊重權(quán)利的AI系統(tǒng)。
——通過開放、透明和可解釋性培養(yǎng)對AI的信任。
——可持續(xù)地部署AI并用于氣候行動。
在此次會議上,美國還宣布啟動“全球包容性人工智能伙伴關(guān)系”(PGIAI)以及其他利用AI快速進步推動全球可持續(xù)發(fā)展的倡議。
全球人工智能包容性伙伴關(guān)系(PGIAI)由亞馬遜、Anthropic、谷歌、IBM、Meta、微軟、Nvidia和OpenAI組成,承諾投入1億多美元,利用各自的專業(yè)知識、資源和網(wǎng)絡(luò),釋放人工智能作為發(fā)展中國家可持續(xù)發(fā)展和改善生活質(zhì)量的有力工具的潛力,同時堅持對AI系統(tǒng)的安全性、可靠性和可信度的承諾。
資料來源:
1. Global AI Research Agenda. https://www.state.gov/wp-content/uploads/2024/09/Global_AI_Research_Agenda.pdf
2. AI in Global Development Playbook. https://www.usaid.gov/sites/default/files/2024-09/Artificial%20Intelligence%20in%20Global%20Development%20Playbook.pdf
[本文為由“教育國際前沿課題組”(IFRGE)成員整理,課題組負責(zé)人張永軍,編輯劉強。點擊左下角“閱讀原文”可從下載該文全部文獻]
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.