走出去智庫（CGGT）觀察

在AI大模型掀起的全球技術(shù)浪潮中，國產(chǎn)AI應(yīng)用出海趨勢顯著增強(qiáng)，在全球市場具有廣泛的滲透與影響。然而，面對國際市場，各國對于AI應(yīng)用的監(jiān)管情況各不相同。如美國和英國，采取較為寬松的監(jiān)管策略，側(cè)重于行業(yè)自律與分散監(jiān)管，為AI創(chuàng)新提供相對自由的空間，歐盟則實(shí)施更為嚴(yán)格的監(jiān)管模式，旨在確保AI系統(tǒng)的安全性和可靠性。

走出去智庫（CGGT）特約法律專家、鴻鵠律師事務(wù)所（Bird & Bird）合伙人龔鈺推出AI出海合規(guī)系列文章，將對各地區(qū)的AI合規(guī)法律進(jìn)行整體的介紹，并對中國AI企業(yè)在出海的過程中，所關(guān)注的合規(guī)重點(diǎn)問題進(jìn)行總結(jié)與分析，以期為AI企業(yè)出海提供關(guān)于合規(guī)管理的基本概覽。

今天，走出去智庫（CGGT）刊發(fā)系列文章之三《歐盟人工智能監(jiān)管與企業(yè)出海：法律義務(wù)與合規(guī)策略》，供關(guān)注AI監(jiān)管的讀者參閱。

要點(diǎn)

1、即使出海企業(yè)并未在歐盟設(shè)立任何實(shí)體，只要其提供的AI產(chǎn)品或服務(wù)面向歐盟市場，就可能受到法案的約束。

2、企業(yè)還應(yīng)當(dāng)注意的是，在特定情況下開發(fā)者角色的認(rèn)定會(huì)發(fā)生拓展及轉(zhuǎn)移，因此其他角色的主體可能也需承擔(dān)開發(fā)者的合規(guī)義務(wù)。

3、如果平臺(tái)使用AI系統(tǒng)，則可能涉及《數(shù)字服務(wù)法》項(xiàng)下的有關(guān)防止有害信息傳播相關(guān)的義務(wù)。

正文

歐盟《人工智能法案》（EU AI Act）已經(jīng)于2024年8月正式出臺(tái)，相關(guān)義務(wù)將在未來三年內(nèi)陸續(xù)生效。作為全球首部人工智能領(lǐng)域的法案，《人工智能法案》為AI技術(shù)的發(fā)展提供了法律框架，確保其在促進(jìn)社會(huì)進(jìn)步的同時(shí)，也能保護(hù)公民的基本權(quán)利。對于中國出海企業(yè)而言，隨著全球化戰(zhàn)略的不斷推進(jìn)，了解并遵守目標(biāo)市場的法律法規(guī)對于企業(yè)的合規(guī)經(jīng)營至關(guān)重要。

作為鴻鵠與走出去智庫合作的歐盟AI監(jiān)管系列第三篇文章，我們將分析《人工智能法案》對中國企業(yè)的影響，并提出合規(guī)策略。

一、 歐盟《人工智能法案》對中國出海企業(yè)的影響

1.出海企業(yè)應(yīng)當(dāng)重視歐盟人工智能合規(guī)要求

隨著中國企業(yè)“走出去”的步伐日益加快，合規(guī)性已成為企業(yè)國際化戰(zhàn)略中的重要議題。《人工智能法案》不僅為AI技術(shù)的合規(guī)使用設(shè)立了標(biāo)桿，更通過其廣泛的域外效力以及嚴(yán)重的違法后果對全球市場產(chǎn)生了深遠(yuǎn)影響。因此，如果企業(yè)希望能夠在國際舞臺(tái)上穩(wěn)健發(fā)展，應(yīng)當(dāng)重視《人工智能法案》的合規(guī)要求。

此外，與數(shù)據(jù)保護(hù)法類似，作為全球人工智能立法的先驅(qū)，我們預(yù)期《人工智能法案》可能同樣擁有與歐盟《通用數(shù)據(jù)保護(hù)條例》類似的“布魯塞爾效應(yīng)”，被全球企業(yè)和市場自愿采納，并作為其日常運(yùn)營合規(guī)的重要關(guān)注點(diǎn)。因此，為了保證企業(yè)在全球范圍內(nèi)安全保障與服務(wù)標(biāo)準(zhǔn)的一致性，出海企業(yè)同樣應(yīng)當(dāng)關(guān)注《人工智能法案》。

2.合規(guī)時(shí)間線

《人工智能法案》將在其生效日（2024年8月1日）的兩年后（即2026年8月2日）開始適用，且對其中不同條款的適用時(shí)間還作出了區(qū)分：

二、 中國出海企業(yè)AI法案合規(guī)方案

中國出海企業(yè)可以參考以下四步走的模式落實(shí)《人工智能法案》的合規(guī)：

1.確認(rèn)管轄范圍

出海企業(yè)首先需要確定自身是否受到《人工智能法案》的域內(nèi)或域外效力管轄。鑒于該法案的廣泛的域外效力，即使出海企業(yè)并未在歐盟設(shè)立任何實(shí)體，只要其提供的AI產(chǎn)品或服務(wù)面向歐盟市場，就可能受到法案的約束。

2.AI系統(tǒng)/GPAI模型的風(fēng)險(xiǎn)等級評估

《人工智能法案》對人工智能（AI）系統(tǒng)以及通用人工智能（GPAI）模型規(guī)定了不同的合規(guī)義務(wù)。

《人工智能法案》從風(fēng)險(xiǎn)角度將AI系統(tǒng)分為從高到低的四個(gè)等級，即：

· 不可接受風(fēng)險(xiǎn)AI系統(tǒng)；

· 高風(fēng)險(xiǎn)AI系統(tǒng)；

· 有限風(fēng)險(xiǎn)AI系統(tǒng)；

· 最低風(fēng)險(xiǎn)AI系統(tǒng)。

其中，最高風(fēng)險(xiǎn)的第一類不可接受風(fēng)險(xiǎn)AI系統(tǒng)（包括任何試圖操縱人類行為、利用人性弱點(diǎn)或支持政府社會(huì)評分的AI系統(tǒng)）被劃分為禁止使用，最低風(fēng)險(xiǎn)的第四類最低風(fēng)險(xiǎn)AI系統(tǒng)（包括人工智能電子游戲或垃圾郵件過濾器等應(yīng)用）則沒有額外限制。對處于中間的兩類AI系統(tǒng)，《人工智能法案》分別提出了對應(yīng)的合規(guī)要求。

《人工智能法案》還將GPAI模型分為不具有系統(tǒng)性風(fēng)險(xiǎn)的GPAI模型和具有系統(tǒng)性風(fēng)險(xiǎn)的GPAI模型兩大類。如果GPAI模型具備以下條件之一，則被視為具有系統(tǒng)性風(fēng)險(xiǎn)（systemic risk）：

· 情形一：根據(jù)適當(dāng)?shù)募夹g(shù)工具和方法認(rèn)定具有高度影響能力（high impact capabilities）：特別地，當(dāng)GPAI模型用于訓(xùn)練的累計(jì)計(jì)算量（以FLOPs計(jì)）大于10的25次方時(shí)，應(yīng)推定具有高度影響能力。

· 情形二：被歐盟委員會(huì)認(rèn)定為具有高度影響能力。

因此，企業(yè)應(yīng)首先對其AI系統(tǒng)進(jìn)行風(fēng)險(xiǎn)等級評估，識(shí)別其GPAI模型所屬的類型，以確定其產(chǎn)品/服務(wù)在《人工智能法案》中所屬的AI系統(tǒng)風(fēng)險(xiǎn)層級、GPAI模型的風(fēng)險(xiǎn)類型。

3.確認(rèn)主體身份

《人工智能法案》對AI產(chǎn)品/系統(tǒng)生態(tài)鏈上的不同參與主體擬定了不同的角色定位和對應(yīng)的合規(guī)義務(wù)，其中，主要角色包括以下四類：

· 開發(fā)者（provider）是指開發(fā)AI系統(tǒng)或GPAI模型，或擁有AI系統(tǒng)或GPAI模型，并以自己的名義或商標(biāo)在歐盟市場（首次）投放或在歐盟市場提供服務(wù)的主體，不論AI系統(tǒng)是否收費(fèi)。值得注意的是，對于設(shè)立在歐盟境外的開發(fā)者，其需要在歐盟境內(nèi)指定一名授權(quán)代表（Authorised Representative），這一要求也與歐盟GDPR中所提出設(shè)立歐盟代表（EU Representative）的要求相似。

· 部署者（deployer）是指在其權(quán)限下使用AI系統(tǒng)的自然人或法人、公共機(jī)關(guān)、機(jī)構(gòu)或其他組織，但將人工智能系統(tǒng)用于個(gè)人非職業(yè)活動(dòng)的除外。

· 進(jìn)口商（importer）是指在歐盟設(shè)立或位于歐盟，將標(biāo)有歐盟境外主體名稱或商標(biāo)的AI系統(tǒng)投放歐盟市場的主體。

· 分銷商（distributor）是指在AI產(chǎn)業(yè)鏈中除了開發(fā)者和進(jìn)口商以外，其他在歐盟市場提供AI系統(tǒng)的主體。

因此，企業(yè)需明確其在《人工智能法案》下的身份，無論是作為AI系統(tǒng)的開發(fā)者（provider）、部署者（deployer）、進(jìn)口商（importer）還是分銷商（distributor）。

法案對這些不同主體規(guī)定了特定的合規(guī)義務(wù)，企業(yè)需要根據(jù)自身的角色，結(jié)合其AI系統(tǒng)的風(fēng)險(xiǎn)等級，識(shí)別并承擔(dān)相應(yīng)的責(zé)任。

企業(yè)還應(yīng)當(dāng)注意的是，在特定情況下開發(fā)者角色的認(rèn)定會(huì)發(fā)生拓展及轉(zhuǎn)移，因此其他角色的主體可能也需承擔(dān)開發(fā)者的合規(guī)義務(wù)。

例如，在下述特定情形下，部署者、進(jìn)口商和分銷商將被視為高風(fēng)險(xiǎn)AI系統(tǒng)的開發(fā)者：（1）在已投放市場或提供服務(wù)的高風(fēng)險(xiǎn)AI系統(tǒng)上冠以自己的名稱或商標(biāo)；（2）對已投放市場或提供服務(wù)的高風(fēng)險(xiǎn)AI系統(tǒng)進(jìn)行實(shí)質(zhì)性修改；（3）修改未被歸類為高風(fēng)險(xiǎn)AI系統(tǒng)的預(yù)期目的，導(dǎo)致該AI系統(tǒng)被歸類為高風(fēng)險(xiǎn)AI系統(tǒng)。

4.結(jié)合AI系統(tǒng)風(fēng)險(xiǎn)等級和主體身份擬定合規(guī)策略

針對不可接受風(fēng)險(xiǎn)的AI系統(tǒng)，原則上歐盟禁止任何企業(yè)或個(gè)人部署或投放至歐盟市場。被歸類為最小風(fēng)險(xiǎn)的AI系統(tǒng)則可以根據(jù)現(xiàn)有立法進(jìn)行開發(fā)和使用，無需承擔(dān)額外的法律義務(wù)?？偨Y(jié)來說，《人工智能法案》項(xiàng)下合規(guī)義務(wù)主要面向高風(fēng)險(xiǎn)AI系統(tǒng)和有限風(fēng)險(xiǎn)AI系統(tǒng)。

就提供高風(fēng)險(xiǎn)AI系統(tǒng)而言，開發(fā)者、部署者、進(jìn)口商和分銷商面臨著不同的合規(guī)義務(wù)。

（1）高風(fēng)險(xiǎn)AI系統(tǒng)的開發(fā)者的主要合規(guī)義務(wù)

高風(fēng)險(xiǎn)AI系統(tǒng)的開發(fā)者的合規(guī)義務(wù)最為全面，主要包括：

No.

主要

義務(wù)

1

信息標(biāo)識(shí)

在高風(fēng)險(xiǎn)AI系統(tǒng)、包裝或隨附文件上標(biāo)明名稱、注冊商標(biāo)或聯(lián)系方式。

2

符合性評估

高風(fēng)險(xiǎn)AI系統(tǒng)在投放市場前必須開展符合性評估（Conformity Assessments），以證明該AI系統(tǒng)符合《人工智能法案》的各項(xiàng)要求。符合性評估可以通過內(nèi)部評估或第三方評估兩種方式開展，分別適用于一般開發(fā)者和未被禁止的生物識(shí)別系統(tǒng)的開發(fā)者。

3

CE標(biāo)志

開發(fā)者應(yīng)在高風(fēng)險(xiǎn)AI系統(tǒng)上附上CE標(biāo)志（CE Marking）。只要按照要求完成符合性評估和附加符合性聲明，確保產(chǎn)品符合所有相關(guān)的歐盟規(guī)定，無需特殊許可即可加貼CE標(biāo)志。

4

基本權(quán)利影響評估

企業(yè)部署涉及信用評分和被保險(xiǎn)人風(fēng)險(xiǎn)評估等高風(fēng)險(xiǎn)AI系統(tǒng)，部署者應(yīng)評估對基本權(quán)利產(chǎn)生的影響，涉及預(yù)期使用目的、預(yù)期期限和頻率、特定情況下對于自然人的影響類別及具體危害風(fēng)險(xiǎn)、人為監(jiān)督措施、風(fēng)險(xiǎn)響應(yīng)措施及投訴機(jī)制。

5

風(fēng)險(xiǎn)管理系統(tǒng)

應(yīng)針對高風(fēng)險(xiǎn)AI系統(tǒng)建立和完善風(fēng)險(xiǎn)管理系統(tǒng)，實(shí)現(xiàn)對于風(fēng)險(xiǎn)的識(shí)別、消弭、記錄，其中涉及識(shí)別、分析和評估高風(fēng)險(xiǎn)AI系統(tǒng)在按照其預(yù)期目的使用時(shí)的風(fēng)險(xiǎn)，根據(jù)上市后監(jiān)測系統(tǒng)收集的數(shù)據(jù)的分析，持續(xù)評估可能產(chǎn)生的其他風(fēng)險(xiǎn)，并采取適當(dāng)和有針對性的風(fēng)險(xiǎn)管理措施，以應(yīng)對識(shí)別出來的風(fēng)險(xiǎn)。

6

數(shù)據(jù)質(zhì)量要求

采納適用于高風(fēng)險(xiǎn)AI系統(tǒng)預(yù)期目的的數(shù)據(jù)治理和管理程序，其中包括設(shè)計(jì)選擇、數(shù)據(jù)收集過程和數(shù)據(jù)來源、相關(guān)數(shù)據(jù)準(zhǔn)備流程以及對所需數(shù)據(jù)集的可用性、數(shù)量和適用性、引發(fā)歧視性偏見的事先檢測評估和糾正。訓(xùn)練數(shù)據(jù)集必須具有相關(guān)性和足夠的代表性，并盡最大可能做到無錯(cuò)誤和完整。

7

技術(shù)文檔起草和保存

應(yīng)在高風(fēng)險(xiǎn)AI系統(tǒng)投放市場或投入使用之前制定該系統(tǒng)的技術(shù)文檔，并及時(shí)更新。該文件應(yīng)由開發(fā)者自投放市場或投入使用起保留至少10年，以備監(jiān)管機(jī)關(guān)核查。技術(shù)文件應(yīng)當(dāng)包含AI系統(tǒng)的一般描述、要素及開發(fā)過程、監(jiān)控運(yùn)行和控制機(jī)制、AI系統(tǒng)的性能指標(biāo)和風(fēng)險(xiǎn)管理體系等內(nèi)容。

8

日志記錄保存

為了確保高風(fēng)險(xiǎn)AI系統(tǒng)的功能具有與該系統(tǒng)預(yù)期目的相適應(yīng)的可追溯性，日志記錄功能應(yīng)保存至少6個(gè)月，并記錄可能導(dǎo)致高風(fēng)險(xiǎn)AI系統(tǒng)出現(xiàn)風(fēng)險(xiǎn)或重大改動(dòng)的情況、促進(jìn)高風(fēng)險(xiǎn)AI系統(tǒng)的上市后監(jiān)測和監(jiān)測高風(fēng)險(xiǎn)AI系統(tǒng)的運(yùn)行。對于遠(yuǎn)程生物特征識(shí)別系統(tǒng)，日志記錄功能應(yīng)至少包括記錄每次使用系統(tǒng)的時(shí)間段，系統(tǒng)對輸入數(shù)據(jù)進(jìn)行核對的參考數(shù)據(jù)庫，與搜索結(jié)果匹配的輸入數(shù)據(jù)和參與核查結(jié)果的自然人的身份。

9

透明度（使用說明）

高風(fēng)險(xiǎn)AI系統(tǒng)的設(shè)計(jì)和開發(fā)應(yīng)確保其操作足夠透明，使部署者能夠解釋系統(tǒng)的輸出并正確使用。高風(fēng)險(xiǎn)AI系統(tǒng)應(yīng)向用戶提供使用說明，需要包含開發(fā)者及其授權(quán)代表的身份和聯(lián)系方式、高風(fēng)險(xiǎn)AI系統(tǒng)的特征功能和性能限制、開發(fā)者在初始符合性評估時(shí)預(yù)先確定的高風(fēng)險(xiǎn)人工智能系統(tǒng)及其性能的變更、所采取的人為監(jiān)督措施、所需的計(jì)算和硬件資源、高風(fēng)險(xiǎn)AI系統(tǒng)的預(yù)期壽命以及任何必要的維護(hù)和保養(yǎng)措施。此外，還應(yīng)當(dāng)對高風(fēng)險(xiǎn)AI系統(tǒng)中包含的日志收集機(jī)制進(jìn)行描述。

10

人為監(jiān)督

高風(fēng)險(xiǎn)AI系統(tǒng)應(yīng)當(dāng)指派一名自然人對高風(fēng)險(xiǎn)AI系統(tǒng)作出的決策進(jìn)行監(jiān)督，其可以決定不使用高風(fēng)險(xiǎn)AI系統(tǒng)，或以其他方式忽視、覆蓋或逆轉(zhuǎn)高風(fēng)險(xiǎn)AI系統(tǒng)的輸出。除此之外，其還可以干預(yù)AI系統(tǒng)的操作或中斷AI系統(tǒng)，使系統(tǒng)在安全狀態(tài)下停止運(yùn)行。對于遠(yuǎn)程生物識(shí)別的高風(fēng)險(xiǎn)AI系統(tǒng)，必須指派至少兩名經(jīng)過培訓(xùn)和具備能力的自然人進(jìn)行監(jiān)督，否則不得基于該系統(tǒng)產(chǎn)生的識(shí)別結(jié)果采取任何行動(dòng)或決策。

11

準(zhǔn)確性、魯棒性與網(wǎng)絡(luò)安全

高風(fēng)險(xiǎn)AI系統(tǒng)的設(shè)計(jì)和開發(fā)應(yīng)實(shí)現(xiàn)確保其達(dá)到適當(dāng)?shù)臏?zhǔn)確性、魯棒性(robust)和網(wǎng)絡(luò)安全水平，并在其整個(gè)生命周期中在這些方面保持一致。

因此，開發(fā)者需要在系統(tǒng)的設(shè)計(jì)、開發(fā)、測試和初步合規(guī)性，確保高風(fēng)險(xiǎn)AI系統(tǒng)在面世前已經(jīng)符合安全和法律標(biāo)準(zhǔn)。

（2）高風(fēng)險(xiǎn)AI系統(tǒng)的部署者的主要合規(guī)義務(wù)

高風(fēng)險(xiǎn)AI系統(tǒng)部署者的合規(guī)義務(wù)則主要集中在系統(tǒng)的實(shí)際使用、持續(xù)監(jiān)控和操作合規(guī)，確保系統(tǒng)在運(yùn)行過程中保持安全、透明和合規(guī)。因此，部署者在實(shí)際使用高風(fēng)險(xiǎn)AI系統(tǒng)時(shí)需要滿足基本權(quán)利影響評估、數(shù)據(jù)質(zhì)量要求、日志記錄保存、風(fēng)險(xiǎn)事故通知、人為監(jiān)督和透明度要求。

（3）高風(fēng)險(xiǎn)AI系統(tǒng)的進(jìn)口商、分銷商的主要合規(guī)義務(wù)

進(jìn)口商、分銷商在將高風(fēng)險(xiǎn)AI系統(tǒng)投放市場之前應(yīng)當(dāng)核準(zhǔn)確認(rèn)系統(tǒng)附有符合性聲明與CE標(biāo)志，標(biāo)明名稱、商標(biāo)、地址。進(jìn)口商還需要確認(rèn)歐盟授權(quán)代表并配合監(jiān)管機(jī)構(gòu)執(zhí)法活動(dòng)。分銷商需要履行透明度義務(wù)，如提供使用說明等。但請注意，前述對于高風(fēng)險(xiǎn)AI系統(tǒng)進(jìn)口商和分銷商的義務(wù)描述僅限于一般情況下，如果在某些特定情況下進(jìn)口商和分銷商同時(shí)構(gòu)成高風(fēng)險(xiǎn)AI系統(tǒng)的開發(fā)者，如在已投放市場或提供服務(wù)的高風(fēng)險(xiǎn)AI系統(tǒng)上冠以自己的名稱或商標(biāo)，或?qū)σ淹斗攀袌龌蛱峁┓?wù)的高風(fēng)險(xiǎn)AI系統(tǒng)進(jìn)行實(shí)質(zhì)性修改等，則需要同時(shí)滿足開發(fā)者的義務(wù)如進(jìn)行符合性評估等。

（4）有限風(fēng)險(xiǎn)AI系統(tǒng)的提供者、部署者的主要合規(guī)義務(wù)

就提供有限風(fēng)險(xiǎn)AI系統(tǒng)而言，《人工智能法案》未對進(jìn)口商和分銷商提供明確具體義務(wù)，但對提供者、部署者明確了其應(yīng)當(dāng)承擔(dān)的透明度義務(wù)。

具體而言，提供者一般需要履行告知義務(wù)、標(biāo)記義務(wù)和技術(shù)要求義務(wù)。告知義務(wù)要求提供者確保與自然人直接互動(dòng)的人工智能系統(tǒng)設(shè)計(jì)和開發(fā)方式，使自然人知曉他們正在與人工智能系統(tǒng)互動(dòng)，除非這一點(diǎn)顯而易見。標(biāo)記義務(wù)則要求生成合成音頻、圖像、視頻或文本內(nèi)容的人工智能系統(tǒng)輸出應(yīng)以機(jī)器可讀格式標(biāo)記，并可檢測為人工生成或操縱的。技術(shù)要求則要求提供者確保技術(shù)解決方案在技術(shù)上可行的范圍內(nèi)是有效的、可互操作的、穩(wěn)健的和可靠的。而對于部署者而言，其一般應(yīng)履行告知義務(wù)、披露義務(wù)、文本披露義務(wù)。其中告知義務(wù)要求部署者告知接觸到情感識(shí)別系統(tǒng)或生物特征分類系統(tǒng)的自然人系統(tǒng)的運(yùn)行情況，并根據(jù)相關(guān)法規(guī)處理個(gè)人數(shù)據(jù)。披露義務(wù)要求生成或操縱構(gòu)成深度偽造的圖像、音頻或視頻內(nèi)容的人工智能系統(tǒng)，應(yīng)披露該內(nèi)容是人工生成或操縱的。同時(shí)，文本披露義務(wù)要求生成或操縱文本并以向公眾提供公共利益事項(xiàng)信息為目的的人工智能系統(tǒng)，應(yīng)披露該文本是人工生成或操縱的。

下圖我們總結(jié)了開發(fā)者、部署者、進(jìn)口商和分銷商就提供不同風(fēng)險(xiǎn)等級的AI系統(tǒng)所承擔(dān)的主要責(zé)任。

（5）GPAI模型開發(fā)者的主要合規(guī)義務(wù)

除了上述四類AI系統(tǒng)外，企業(yè)還需判定其是否構(gòu)成了GPAI模型開發(fā)者繼而需要遵守《人工智能法案》就GPAI模型開發(fā)者設(shè)定的特定合規(guī)要求。

《人工智能法案》項(xiàng)下不具有系統(tǒng)性風(fēng)險(xiǎn)的GPAI模型開發(fā)者負(fù)有如下義務(wù)：

? 編制并不斷更新該模型的技術(shù)文件文檔以便應(yīng)要求向監(jiān)管機(jī)構(gòu)提供；

? 為打算將GPAI模型納入其AI系統(tǒng)的開發(fā)者編制、不斷更新和提供信息和文件；

? 制定內(nèi)部政策以遵守歐盟版權(quán)法；

? 根據(jù)歐盟AI辦公室提供的模板，就GPAI模型訓(xùn)練起草并公開AI模型訓(xùn)練摘要；

? 對于落入域外效力范圍的境外企業(yè)，在將GPAI模型投放到歐盟市場之前，應(yīng)通過書面授權(quán)指定在歐盟授權(quán)代表。

對于具有系統(tǒng)性風(fēng)險(xiǎn)的GPAI模型的開發(fā)者而言，除了上述針對不具有系統(tǒng)性風(fēng)險(xiǎn)的GPAI模型開發(fā)者的義務(wù)外，還需額外遵守下述義務(wù)：

? 根據(jù)反映最先進(jìn)技術(shù)水平的標(biāo)準(zhǔn)化協(xié)議和工具進(jìn)行模型評估，包括對模型進(jìn)行對抗測試并記錄在案，以識(shí)別和降低系統(tǒng)性風(fēng)險(xiǎn)；

? 評估并降低歐盟層面可能存在的系統(tǒng)性風(fēng)險(xiǎn)，包括因開發(fā)、投放市場、或使用具有系統(tǒng)性風(fēng)險(xiǎn)的GPAI模型而產(chǎn)生的系統(tǒng)性風(fēng)險(xiǎn)的來源；

? 跟蹤、記錄并及時(shí)向歐盟AI辦公室（并酌情向國家主管機(jī)構(gòu)）報(bào)告嚴(yán)重事故的相關(guān)信息以及糾正措施；

? 確保具有系統(tǒng)風(fēng)險(xiǎn)的GPAI模型和模型的物理基礎(chǔ)設(shè)施得到適當(dāng)水平的網(wǎng)絡(luò)安全保護(hù)。

綜上所述，基于對GPAI以及AI系統(tǒng)風(fēng)險(xiǎn)等級的評估結(jié)果，企業(yè)應(yīng)制定和執(zhí)行相應(yīng)的合規(guī)策略。尤其是對于被分類為高風(fēng)險(xiǎn)的AI系統(tǒng)，企業(yè)需要特別注意法案中對信息標(biāo)識(shí)、質(zhì)量管理、登記注冊、合格性評估等方面的具體要求。

三、同步關(guān)注其他領(lǐng)域合規(guī)義務(wù)

除了《人工智能法案》外，如果出海企業(yè)需要向歐洲提供AI服務(wù)，其他領(lǐng)域的法律法規(guī)依然需要注意。例如：

· 知識(shí)產(chǎn)權(quán)：目前就人工智能生成物的版權(quán)以及數(shù)據(jù)庫權(quán)利保護(hù)已經(jīng)成為熱點(diǎn)問題。在全球范圍內(nèi)均出現(xiàn)了多起與AI和知識(shí)產(chǎn)權(quán)相關(guān)的訴訟，如英國法院于2023年受理的

Getty v

Stability

· 內(nèi)容治理：如果平臺(tái)使用AI系統(tǒng)，則可能涉及《數(shù)字服務(wù)法》項(xiàng)下的有關(guān)防止有害信息傳播相關(guān)的義務(wù)。類似地，英國英國通信管理局近期也發(fā)布公開信，明確其《在線安全法》(Online Safety Act 2023) 適用于AI場景。如果“守門人”等大型平臺(tái)使用AI進(jìn)行市場活動(dòng)（如監(jiān)控市場價(jià)格并實(shí)時(shí)定價(jià)等），則還需要考慮《數(shù)字市場法》等法規(guī)要求。

· 產(chǎn)品責(zé)任：布魯塞爾近兩年在試圖推動(dòng)《人工智能責(zé)任指令》（AI Liability Directive）的出臺(tái)和《產(chǎn)品責(zé)任指令》（Directive of the European Parliament and of the council on liability for defective products）的修訂，前者確定了針對AI所致?lián)p害的適用規(guī)則，而后者作為產(chǎn)品責(zé)任的主要監(jiān)管法規(guī)，試圖將其適用范圍擴(kuò)展到涉及AI系統(tǒng)作為組件的各類產(chǎn)品。

· 非個(gè)人數(shù)據(jù)保護(hù)：考慮到AI在IoT、云服務(wù)中的廣泛應(yīng)用，在歐盟提供此類產(chǎn)品還需要考慮《數(shù)據(jù)法案》（Data Act）的相關(guān)規(guī)則。

· 個(gè)人數(shù)據(jù)保護(hù)：個(gè)人數(shù)據(jù)保護(hù)與AI監(jiān)管的重疊程度很高。歐盟數(shù)據(jù)保護(hù)機(jī)構(gòu)（DPA）已經(jīng)開始關(guān)注AI企業(yè)在數(shù)據(jù)保護(hù)方面的合規(guī)性，如意大利個(gè)人數(shù)據(jù)保護(hù)局就ChatGPT開展監(jiān)管并發(fā)表聲明。此后，有關(guān)如何進(jìn)行告知、使用何種合法性基礎(chǔ)進(jìn)行數(shù)據(jù)處理（尤其是數(shù)據(jù)訓(xùn)練），以及如何開展數(shù)據(jù)保護(hù)影響評估等問題便一直被廣泛討論，多個(gè)國家的DPA就相關(guān)議題發(fā)布了指引。近期，EDPB還就 AI 模型與數(shù)據(jù)保護(hù)合規(guī)問題舉辦了利益相關(guān)者活動(dòng)，鴻鵠律師在會(huì)中參與討論。

這些法律法規(guī)共同構(gòu)成了一個(gè)復(fù)雜的合規(guī)環(huán)境，出海企業(yè)在向歐洲提供AI服務(wù)時(shí)需要全面了解并遵守這些規(guī)定，以確保業(yè)務(wù)的合法合規(guī)和可持續(xù)發(fā)展。

因此，中國企業(yè)在出海提供AI服務(wù)時(shí)，除了《人工智能法案》外，還需要深入研究并理解歐盟的其他相關(guān)法律法規(guī)，包括但不限于《數(shù)字服務(wù)法》、《數(shù)據(jù)法案》以及《通用數(shù)據(jù)保護(hù)條例》。其次，企業(yè)應(yīng)建立健全的合規(guī)管理體系，確保在知識(shí)產(chǎn)權(quán)、內(nèi)容治理、產(chǎn)品責(zé)任、數(shù)據(jù)保護(hù)等方面的合規(guī)性。此外，企業(yè)還需關(guān)注反壟斷法、消費(fèi)者保護(hù)法和勞動(dòng)法等領(lǐng)域的要求，制定相應(yīng)的內(nèi)部政策和操作流程，以應(yīng)對可能的法律風(fēng)險(xiǎn)。

通過全面的合規(guī)管理，我們相信中國企業(yè)能夠在歐洲市場穩(wěn)健發(fā)展，提升國際競爭力。

專家簡介

龔鈺

走出去智庫（CGGT）特約法律專家

鴻鵠律師事務(wù)所（Bird & Bird）合伙人

龔律師領(lǐng)導(dǎo)鴻鵠律師事務(wù)所中國的數(shù)據(jù)保護(hù)和網(wǎng)絡(luò)安全團(tuán)隊(duì)。他在數(shù)據(jù)保護(hù)、網(wǎng)絡(luò)安全以及科技、媒體、電信相關(guān)的監(jiān)管及交易方面經(jīng)驗(yàn)非常豐富。他曾為來自多個(gè)行業(yè)的中國和跨國客戶提供境內(nèi)外法律服務(wù)，擅長解決行業(yè)相關(guān)的復(fù)雜法律問題。龔律師的觀點(diǎn)經(jīng)常被媒體引用，并且作為業(yè)內(nèi)認(rèn)可的作者發(fā)表TMT及數(shù)據(jù)相關(guān)文章。

龔律師畢業(yè)于曼徹斯特大學(xué)，并獲得法學(xué)學(xué)士學(xué)位。他擁有中華人民共和國法律職業(yè)資格和美國紐約州律師執(zhí)業(yè)資格。他還是國際隱私專業(yè)人員協(xié)會(huì)成員，持有CIPP/E、CIPP/US 和CIPM證書。

業(yè)界榮譽(yù)：

中國《商法》：

• 2023-24法律精英：律界精銳

• 律師新星，2023

法律500強(qiáng)：

• 中國：數(shù)據(jù)保護(hù)（外資所）新生代合伙人，2024

• 中國：TMT（外資所）新生代合伙人，2022，2024

• 中國：生命科學(xué)（外資所）高度推薦律師，2024

• 中國：公司法及并購（外資所）高度推薦律師，2024

• 2023中國法律大獎(jiǎng)：提名年度新生代合伙人、TMT年度律師

《亞洲法律雜志》（ALB）：中國十五佳TMT律師，2022

Lexology CMA：TMT - 亞太地區(qū)影響力律師（2024Q1、2023 Q1Q2、2022 Q2Q4）

ALM Law.com: 提名年度數(shù)據(jù)隱私律師, 2024

執(zhí)業(yè)經(jīng)驗(yàn)：

為蔚來汽車、小鵬汽車、吉利汽車、北汽福田、比亞迪、石基信息、菜鳥網(wǎng)絡(luò)、華為、千尋位置、邁瑞醫(yī)療、健世科技、小天才、Vivo、科大訊飛、中銀國際、中國農(nóng)業(yè)銀行、美的、螞蟻金服等眾多企業(yè)就數(shù)據(jù)合規(guī)相關(guān)問題提供法律服務(wù)。

延展閱讀

▌地緣政治風(fēng)險(xiǎn):

▌出口管制與制裁:

▌跨境數(shù)據(jù)監(jiān)管:

▌全球科技競爭:

▌品牌聲譽(yù)管理:

《戰(zhàn)略公關(guān)洞察｜政策監(jiān)管和溝通傳播｜月報(bào)》

AI（人工智能）等技術(shù)推動(dòng)產(chǎn)業(yè)升級，成為中國高科技企業(yè)轉(zhuǎn)型發(fā)展的重要工具和手段。

走出去智庫《跨境監(jiān)管和戰(zhàn)略公關(guān)｜洞察月報(bào)》團(tuán)隊(duì)，持續(xù)服務(wù)中國頭部高科技企業(yè)，華為、字節(jié)跳動(dòng)、TCL科技等，助力中國企業(yè)在復(fù)雜的地緣政治背景下，理解跨境監(jiān)管合規(guī)挑戰(zhàn)，支持企業(yè)品牌公關(guān)部、政府事務(wù)部、合規(guī)部，進(jìn)行跨國業(yè)務(wù)的戰(zhàn)略傳播溝通和風(fēng)險(xiǎn)規(guī)避的決策參考，主要內(nèi)容包括——

- 地緣政策風(fēng)險(xiǎn)、合規(guī)風(fēng)險(xiǎn)、海外聲譽(yù)風(fēng)險(xiǎn)的前瞻預(yù)警

- 針對跨國業(yè)務(wù)場景的利益相關(guān)方溝通傳播議題和策略

- 政治風(fēng)險(xiǎn)、輿情風(fēng)險(xiǎn)演進(jìn)的法律危機(jī)公關(guān)實(shí)務(wù)