2025年6月10日，歐盟委員會(huì)聯(lián)合研究中心（JRC）發(fā)布《生成式人工智能（GenAI）展望報(bào)告：探索技術(shù)、社會(huì)和政策的交集》報(bào)告，概述了當(dāng)前GenAI技術(shù)能力、新興趨勢(shì)，并分析了對(duì)經(jīng)濟(jì)、社會(huì)的影響。

報(bào)告指出，GenAI為醫(yī)療保健、教育、科學(xué)和創(chuàng)意產(chǎn)業(yè)等多個(gè)領(lǐng)域的進(jìn)步提供了多種機(jī)會(huì)。與此同時(shí)，GenAI也帶來(lái)了重大挑戰(zhàn)，包括放大錯(cuò)誤信息、偏見(jiàn)、勞動(dòng)力中斷和隱私問(wèn)題。所有這些問(wèn)題都是跨領(lǐng)域的，因此，GenAI的快速發(fā)展需要多學(xué)科方法來(lái)全面理解其影響。

報(bào)告認(rèn)為，GenAI有可能在歐盟產(chǎn)生重大的社會(huì)和經(jīng)濟(jì)影響，需要一種全面和細(xì)微的政策方法來(lái)應(yīng)對(duì)挑戰(zhàn)和機(jī)遇，同時(shí)確保技術(shù)發(fā)展與民主價(jià)值觀和歐盟法律框架完全一致。

該報(bào)告的具體內(nèi)容概述如下。

一、GenAI參與者的全球圖景是如何的？

報(bào)告指出，目前GenAI活動(dòng)在數(shù)字生態(tài)系統(tǒng)中占據(jù)越來(lái)越大的份額，有超過(guò)7.2萬(wàn)組織開(kāi)展了與GenAI相關(guān)的研究出版、創(chuàng)新（專利申請(qǐng)）以及商業(yè)和投資活動(dòng)，這些活動(dòng)總數(shù)超過(guò)了14.9萬(wàn)項(xiàng)。

在所有這些組織和活動(dòng)中，中國(guó)總占比最高（60%），其次是美國(guó)（11%）。其中在GenAI出版物方面，2023年中國(guó)的數(shù)量近6000個(gè)，幾乎是排名第二的歐盟的二倍。

在GenAI專利申請(qǐng)方面，2009-2023年中國(guó)排第一，占比80%，美國(guó)排第二，占比7%。在500強(qiáng)AI超級(jí)計(jì)算機(jī)的數(shù)量方面，中國(guó)超200個(gè)，美國(guó)134個(gè)，歐盟50個(gè)，不過(guò)在計(jì)算方面，美國(guó)占據(jù)了主導(dǎo)地位，例如最近部署的超級(jí)計(jì)算機(jī)中，美國(guó)最先進(jìn)的xAI Colossus僅憑其自身就集成了多達(dá)20萬(wàn)個(gè)AI芯片。

此外，在商業(yè)領(lǐng)域，目前美國(guó)仍然是GenAI全球商業(yè)創(chuàng)新和部署的中心，如OpenAI、Anthropic、Google DeepMind和Microsoft等公司部署了GPT-4、Claude 3.5和Gemini Ultra等。在GenAI的國(guó)外投資方面，美國(guó)排第一，例如擁有所有權(quán)（指持有超過(guò)50%的股權(quán)）的全球外資GenAI公司中，美國(guó)占比24%，歐盟占8%，日本排第三，中國(guó)只有2%。

二、GenAI的未來(lái)趨勢(shì)是如何的？

報(bào)告認(rèn)為，評(píng)估GenAI模型和GenAI的網(wǎng)絡(luò)安全是GenAI政策的重要關(guān)注方向。

在評(píng)估方面，目前主要有基準(zhǔn)測(cè)試和對(duì)抗性測(cè)試，未來(lái)主要有以下幾個(gè)發(fā)展趨勢(shì)：對(duì)GenAI評(píng)估進(jìn)行基準(zhǔn)測(cè)試的新方法將蓬勃發(fā)展，包括透明度和對(duì)其實(shí)際衡量?jī)?nèi)容的清晰評(píng)估；對(duì)智能體GenAI系統(tǒng)安全性評(píng)估的關(guān)注將加強(qiáng)；人類將繼續(xù)在GenAI評(píng)估中發(fā)揮關(guān)鍵作用；評(píng)估超越人類的能力以及人類無(wú)法知曉或察覺(jué)的安全問(wèn)題的需求將變得越來(lái)越重要；推動(dòng)建立GenAI評(píng)估科學(xué)。

在GenAI網(wǎng)絡(luò)安全方面，報(bào)告認(rèn)為，GenAI系統(tǒng)容易受到傳統(tǒng)網(wǎng)絡(luò)安全威脅和AI特有漏洞的影響，例如數(shù)據(jù)和模型中毒、對(duì)抗性攻擊以及生成內(nèi)容被濫用于惡意目的。由于依賴第三方數(shù)據(jù)和模型，這些挑戰(zhàn)更加嚴(yán)峻。因此未來(lái)需要采取多方面的方法，結(jié)合傳統(tǒng)軟件風(fēng)險(xiǎn)管理與AI特定策略，并考慮完整的攻擊面和AI工件，包括數(shù)據(jù)和模型。

此外，從GenAI技術(shù)本身的發(fā)展來(lái)看，報(bào)告認(rèn)為未來(lái)的趨勢(shì)主要包括：智能體AI，即自主系統(tǒng)獨(dú)立決策并從結(jié)果中學(xué)習(xí)；多模態(tài)AI，即整合多種數(shù)據(jù)格式，增強(qiáng)多功能性，但也帶來(lái)偏見(jiàn)挑戰(zhàn)；高級(jí)AI推理，即通過(guò)分析復(fù)雜信息并得出邏輯結(jié)論來(lái)增強(qiáng)決策能力；AI的可解釋性，即強(qiáng)調(diào)AI系統(tǒng)越來(lái)越需要提供以人類可理解的方式解釋其輸出。

三、GenAI對(duì)經(jīng)濟(jì)的影響有哪些？

報(bào)告認(rèn)為，GenAI有望改變制造業(yè)、零售、醫(yī)療保健、創(chuàng)意產(chǎn)業(yè)等。GenAI，尤其是智能體AI預(yù)計(jì)將通過(guò)利用先進(jìn)的數(shù)據(jù)分析技術(shù)，實(shí)現(xiàn)智能生產(chǎn)線，從而改變制造業(yè)（汽車、電子、消費(fèi)品等）。

智能體AI還將通過(guò)自主和自適應(yīng)決策，對(duì)預(yù)測(cè)性維護(hù)產(chǎn)生顛覆性影響。零售商正在使用GenAI分析消費(fèi)者行為、預(yù)測(cè)趨勢(shì)并定制營(yíng)銷策略。

醫(yī)生通過(guò)GenAI提高診斷的準(zhǔn)確性，實(shí)現(xiàn)患者個(gè)性化護(hù)理，還能通過(guò)分析海量數(shù)據(jù)集來(lái)檢測(cè)模式并預(yù)測(cè)疾病進(jìn)展，從而幫助早期診斷和治療規(guī)劃。

在創(chuàng)意產(chǎn)業(yè)中，GenAI能夠使藝術(shù)家和設(shè)計(jì)師通過(guò)分析受眾偏好和趨勢(shì)創(chuàng)作創(chuàng)新作品。

GenAI對(duì)勞動(dòng)力市場(chǎng)也將帶來(lái)重要影響。GenAI帶來(lái)了與工作崗位流失和不平等相關(guān)的挑戰(zhàn)，但也為提高生產(chǎn)力和穩(wěn)定就業(yè)提供了巨大的潛力。政策制定者和組織必須謹(jǐn)慎應(yīng)對(duì)這些動(dòng)態(tài)，以最大限度地發(fā)揮GenAI的優(yōu)勢(shì)，同時(shí)降低其風(fēng)險(xiǎn)。

四、GenAI對(duì)社會(huì)的影響有哪些？

GenAI對(duì)社會(huì)的影響是多方面的，包括帶來(lái)公民和勞動(dòng)力技能（尤其是數(shù)字技能）差距變化、AI素養(yǎng)培養(yǎng)需求增加、信息操控風(fēng)險(xiǎn)、媒體報(bào)道分化、數(shù)字公共資源版權(quán)爭(zhēng)議、環(huán)境問(wèn)題、兒童權(quán)利挑戰(zhàn)、心里健康問(wèn)題、強(qiáng)化文化偏見(jiàn)、隱私和數(shù)據(jù)保護(hù)等。

報(bào)告指出，AI和GenAI復(fù)制某些人類技能的傾向會(huì)導(dǎo)致技能替代，同時(shí)也新增了對(duì)數(shù)字和數(shù)據(jù)技能、橫向技能、AI素養(yǎng)等技能的進(jìn)一步需求。歐盟為此計(jì)劃在2025年底推出“數(shù)字能力框架”3.0版。一些國(guó)家近年還增加了AI和GenAI學(xué)位課程數(shù)量。

報(bào)告還指出，GenAI模型正在徹底改變內(nèi)容創(chuàng)作方式，它使快速、大規(guī)模地生成極具說(shuō)服力的操縱性內(nèi)容變得異常簡(jiǎn)單。除了內(nèi)容創(chuàng)作，GenAI還可以用于大規(guī)模的系統(tǒng)性數(shù)據(jù)投毒，例如，污染免費(fèi)和開(kāi)放的知識(shí)庫(kù)或放大在線新聞和社交媒體的傳播。

另外，媒體對(duì)GenAI的描述往往兩極分化，烏托邦式的愿景強(qiáng)調(diào)其變革潛力，而反烏托邦式的擔(dān)憂則警告其倫理影響、工作取代和隱私問(wèn)題。這種雙重?cái)⑹滤茉炝斯苍捳Z(yǔ)，并可能影響全球的政策觀念。

AI對(duì)環(huán)境的影響也不容忽視，AI模型特別是GenAI和大型語(yǔ)言模型需要大量的計(jì)算資源，導(dǎo)致高能耗、高用水量和高礦產(chǎn)開(kāi)采。據(jù)估計(jì)，到2027年，美國(guó)預(yù)計(jì)約有5000個(gè)數(shù)據(jù)中心，歐洲約有2000個(gè)數(shù)據(jù)中心，其電力需求將增加50%，到2030年將增加103%-165%。

GenAI為兒童權(quán)利帶來(lái)了機(jī)遇和挑戰(zhàn)。一方面，它有潛力提高創(chuàng)造力、溝通能力和信息獲取能力，另一方面它也帶來(lái)了重大風(fēng)險(xiǎn)，例如欺騙性操縱、基于AI的有害內(nèi)容以及隱私和安全的缺失。

AI聊天機(jī)器人和AI伴侶可能會(huì)給用戶帶來(lái)各種心理健康問(wèn)題，如成癮的行為、尋求認(rèn)可的傾向，在某些情況下甚至?xí)膭?lì)諸如自殘和飲食失調(diào)等有害行為。此外，數(shù)字偽造的潛力又增加了一層情感風(fēng)險(xiǎn)，可能會(huì)給受此類行為影響的人帶來(lái)困擾。

GenAI系統(tǒng)可能會(huì)延續(xù)現(xiàn)有的偏見(jiàn)和刻板印象，特別是如果它們接受反映歷史和系統(tǒng)不平等的數(shù)據(jù)集的訓(xùn)練。例如，在性別詞匯關(guān)聯(lián)任務(wù)中，最新的模型仍然將女性名字與“家”和“家庭”等傳統(tǒng)角色關(guān)聯(lián)起來(lái)，而將男性名字與“商業(yè)”和“事業(yè)”關(guān)聯(lián)起來(lái)。在AI圖像生成中，女性通常被描繪成年輕且具有順從的姿態(tài)，而男性則顯得年長(zhǎng)且更具權(quán)威性。在招聘中，AI算法被發(fā)現(xiàn)更青睞男性候選人，而不是同樣合格的女性候選人。

五、GenAI對(duì)教育的影響有哪些？

報(bào)告認(rèn)為，GenAI與教育系統(tǒng)的整合正在改變學(xué)習(xí)、教學(xué)和評(píng)估的格局，其創(chuàng)新有可能重塑甚至顛覆教育和培訓(xùn)。例如，目前GenAI應(yīng)用程序可以根據(jù)現(xiàn)有內(nèi)容生成視頻或文本學(xué)習(xí)材料，使教師能夠?yàn)閷W(xué)生打造個(gè)性化的學(xué)習(xí)體驗(yàn)。此外，AI系統(tǒng)可以充當(dāng)合作伙伴、共同設(shè)計(jì)者、蘇格拉底式的對(duì)手或激勵(lì)者，幫助學(xué)生發(fā)展思維。GenAI還能應(yīng)用于教育管理和決策。

為了確保有效且負(fù)責(zé)任地使用GenAI，政策制定者、教育工作者和學(xué)生必須共同努力，發(fā)展支持其融入教育系統(tǒng)所需的能力和政策。這其中AI素養(yǎng)就是重要的能力之一，歐盟委員會(huì)和OECD正在開(kāi)發(fā)中小學(xué)AI素養(yǎng)框架，，最終版計(jì)劃在2026年初發(fā)布。

報(bào)告認(rèn)為，教育工作者在促進(jìn)學(xué)習(xí)者的數(shù)字能力（包括人工智能素養(yǎng)）方面發(fā)揮著至關(guān)重要的作用，并支持他們從數(shù)字技術(shù)機(jī)遇中受益，同時(shí)應(yīng)對(duì)挑戰(zhàn)和風(fēng)險(xiǎn)。這可以通過(guò)以下方式實(shí)現(xiàn)：教師培訓(xùn)——確保他們接受有效培訓(xùn)，將AI融入教學(xué)實(shí)踐；課程更新——AI技術(shù)，包括其倫理、社會(huì)和社會(huì)層面，應(yīng)納入教育課程；教育專用AI模型——開(kāi)發(fā)像EdGPT這樣的系統(tǒng)來(lái)支持學(xué)習(xí)和教學(xué)；應(yīng)對(duì)AI特有的挑戰(zhàn)——教育工作者需要能夠解決數(shù)據(jù)使用、數(shù)據(jù)隱私、信息偏見(jiàn)和平等訪問(wèn)等問(wèn)題。

報(bào)告同時(shí)也指出，盡管GenAI的影響力日益增強(qiáng)，但仍然迫切需要嚴(yán)謹(jǐn)?shù)膶?shí)證證據(jù)來(lái)進(jìn)一步了解其對(duì)教育實(shí)踐的影響，特別是關(guān)于它是否能夠有效改善教學(xué)和學(xué)習(xí)，以及它對(duì)評(píng)估的影響。

從目前的研究現(xiàn)狀來(lái)看，教育領(lǐng)域GenAI的研究主要集中在WEIRD（西方、教育水平高、工業(yè)化、富裕和民主）國(guó)家，缺乏拉丁美洲和非洲代表；另外大多數(shù)研究集中在高等教育，需要對(duì)其他教育領(lǐng)域進(jìn)行更多的研究；研究主題集中于GenAI在考試和任務(wù)中的評(píng)估及其在教育中的一般性應(yīng)用，對(duì)倫理問(wèn)題（如負(fù)責(zé)任地使用GenAI及其對(duì)學(xué)術(shù)誠(chéng)信的潛在影響）和技術(shù)問(wèn)題，關(guān)注相對(duì)較少。

為此，報(bào)告建議：教育政策應(yīng)支持教育領(lǐng)域的GenAI研究，確保個(gè)人的權(quán)利和主權(quán)，并處理技術(shù)決定論和道德標(biāo)準(zhǔn)之間的緊張關(guān)系；應(yīng)制定政策確保學(xué)術(shù)和教育的誠(chéng)信，并修改課程以系統(tǒng)地整合有關(guān)AI的教育。

六、GenAI對(duì)科學(xué)的影響有哪些？

報(bào)告認(rèn)為，GenAI正在重塑科學(xué)研究各個(gè)流程：

提出問(wèn)題（或進(jìn)行觀察）——GenAI可以通過(guò)幫助研究人員（尤其是新手）完善和理解研究背景，從而徹底改變這一過(guò)程。如整合文獻(xiàn)，突出模式和差距，從而幫助提出創(chuàng)造性問(wèn)題。AI還可以自主生成研究目標(biāo)或假設(shè)，有效地“觀察”現(xiàn)象，加速問(wèn)題的提出，并拓展科學(xué)好奇心。然而，它也可能無(wú)意中強(qiáng)化主流敘事，限制對(duì)新想法的探索。

文獻(xiàn)綜述——GenAI工具和系統(tǒng)（如Elicit、Scite和Scopus AI）通過(guò)整合文獻(xiàn)搜索、檢索和總結(jié)，徹底改變了這一流程。盡管仍存在一些擔(dān)憂，但GenAI可以促進(jìn)跨學(xué)科理論基礎(chǔ)的獲取。此外，快速生成復(fù)雜研究論文摘要或以對(duì)話方式回答問(wèn)題的能力可以幫助研究人員消化比以往更多的信息。然而，研究人員必須面對(duì)可能出現(xiàn)的不準(zhǔn)確性和幻覺(jué)。

構(gòu)建假設(shè)——GenAI通過(guò)識(shí)別數(shù)據(jù)和文獻(xiàn)中的模式，支持構(gòu)建基于證據(jù)的合理假設(shè)。GenAI協(xié)助重新構(gòu)架問(wèn)題，識(shí)別盲點(diǎn)，并提出與研究目標(biāo)一致的結(jié)構(gòu)化、可驗(yàn)證的陳述。GenAI憑借逐步邏輯等功能，支持假設(shè)構(gòu)建，但可能會(huì)忽略需要人類專業(yè)知識(shí)才能獲得的洞見(jiàn)。

通過(guò)實(shí)驗(yàn)來(lái)檢驗(yàn)假設(shè)——GenAI可自動(dòng)化實(shí)驗(yàn)設(shè)計(jì)、代碼生成和執(zhí)行，確保從假設(shè)到分析的無(wú)縫銜接。AI有助于控制變量和識(shí)別模式，從而提高實(shí)驗(yàn)結(jié)果的準(zhǔn)確性。

分析數(shù)據(jù)——GenAI可以通過(guò)處理數(shù)據(jù)集、應(yīng)用統(tǒng)計(jì)方法和生成可視化來(lái)加速這一流程。PROTEUS和Agent Laboratory等工具使用大預(yù)言模型推理自動(dòng)化工作流程。AI可跨領(lǐng)域輔助編碼、建模和模式發(fā)現(xiàn)。GenAI提高了解讀的清晰度和速度，但透明度和可靠性是關(guān)鍵。

根據(jù)假設(shè)的接受或拒絕得出結(jié)論——GenAI工具有助于總結(jié)結(jié)果并將其與假設(shè)進(jìn)行比對(duì)。另外，有助于解釋輸出結(jié)果、起草結(jié)論并識(shí)別不一致之處。但由于存在偏見(jiàn)和過(guò)度自信等風(fēng)險(xiǎn)，需要人工驗(yàn)證。如果以負(fù)責(zé)任的方式集成，GenAI可以支持對(duì)研究結(jié)果的反思，并鼓勵(lì)改進(jìn)假設(shè)。

交流研究結(jié)果——GenAI支持文稿起草、格式化、編輯和翻譯，從而提高清晰度和覆蓋面。ChatGPT等工具有助于構(gòu)建論文結(jié)構(gòu)、生成摘要和多語(yǔ)言報(bào)告。GenAI協(xié)助撰寫撥款申請(qǐng)書和進(jìn)行演示，修改文檔。高效、透明和監(jiān)督對(duì)于維護(hù)誠(chéng)信至關(guān)重要。最近的研究凸顯了GenAI在科學(xué)傳播中日益重要的作用：向非專業(yè)人士傳達(dá)科學(xué)研究和信息。這些功能包括幫助創(chuàng)建易于理解的摘要、交互式問(wèn)答、自動(dòng)創(chuàng)建數(shù)據(jù)可視化和生成洞察（撰寫簡(jiǎn)短的數(shù)據(jù)驅(qū)動(dòng)故事）。然而，為了應(yīng)對(duì)錯(cuò)誤信息和公眾不信任的風(fēng)險(xiǎn)，需要人工監(jiān)督以確保準(zhǔn)確性和可信度。

構(gòu)建科學(xué)社群——GenAI促進(jìn)跨學(xué)科參與和包容性合作。GenAI工具彌合了語(yǔ)言和專業(yè)知識(shí)的差距，使參與更加民主化，并促進(jìn)了共同規(guī)范。雖然GenAI有助于能力建設(shè)和科研誠(chéng)信，但過(guò)分強(qiáng)調(diào)GenAI可能會(huì)掩蓋文化視角。

資料來(lái)源：

Navajas Cawood, E., Abendroth-Dias, K., Arias Cabarcos, P. et al. (2025) Generative AI outlook report: exploring the intersection of technology, society, and policy. Publications Office of the European Union. https://data.europa.eu/doi/10.2760/1109679

[本文為教育部國(guó)別和區(qū)域研究基地中國(guó)教育科學(xué)研究院國(guó)際教育研究中心研究成果]

本文由中國(guó)教育科學(xué)研究院“教育國(guó)際前沿”課題組成員整理，課題組負(fù)責(zé)人張永軍，編輯劉強(qiáng)，內(nèi)容僅供參考。點(diǎn)擊左下角“閱讀原文”可下載該文獻(xiàn)。