走出去智庫（CGGT）觀察

2024年12月26日，韓國國會通過了《人工智能基本法》，預計在今年年初通過韓國內閣會議后，于2026年1月正式實施。韓國是繼歐盟之后，全球第二個通過人工智能法案的國家或地區。

走出去智庫（CGGT）特約法律專家、鴻鵠律師事務所（Bird & Bird）合伙人龔鈺認為，韓國采取了與歐盟類似的基于風險的監管方法，對高影響力AI進行分類管理，這種逐步加強的法律監管增強了公眾對AI技術的信任。其中，對高影響力AI和生成式AI的監管、確保AI系統的透明性和安全性等措施，為AI應用放置了一道安全防線。此外，法案還重視AI人力資源的培養和對中小型AI企業的扶持，有助于推動AI生態體系的繁榮。

該法案有哪些監管措施？今天，走出去智庫（CGGT）刊發龔鈺律師團隊的編譯文章，供關注全球AI監管的讀者參閱。

要點

1、《人工智能基本法》明確規定其域外效力，要求符合特定用戶數量或銷售額標準的境外人工智能業務經營者，必須書面指定一名當地代表，以配合履行相關合規義務。

2、如果人工智能業務經營者提供難以與現實區分的虛擬輸出，如聲音、圖像或視頻，他們必須明確通知或標明用戶這些輸出是由人工智能生成的。

3、提供和利用高影響人工智能的產品或服務的人工智能業務經營者必須努力提前評估其對基本人權的潛在影響。

正文

近日，韓國國會通過了《人工智能基本法》，成為繼歐盟《人工智能法案》（AI Act）之后全球第二部人工智能立法。

01、適用范圍及核心定義

《人工智能基本法》對提供人工智能服務的人工智能業務經營者規定了一系列合規義務，并額外針對“高影響人工智能”以及“生成式人工智能”設置一些特殊的合規義務。

尤其值得注意的是，《人工智能基本法》明確規定其域外效力，要求符合特定用戶數量或銷售額標準的境外人工智能業務經營者，必須書面指定一名當地代表，以配合履行相關合規義務。

“人工智能業務經營者”是指從事與人工智能產業相關業務的公司、組織、個人或政府部門，包括：

?人工智能開發經營者：開發并提供人工智能的實體。

?人工智能利用經營者：利用人工智能開發經營者開發并提供的人工智能，提供人工智能產品或服務的實體。

“高影響人工智能”是指對人類生命、身體健康或基本權利產生重大影響或存在潛在風險的人工智能系統，具體包括應用于下列領域的人工智能系統：

?能源供應；

?飲用水生產過程；

?醫療保健提供和利用系統的建立與運營；

?醫療器械的開發和使用；

?數字醫療器械；

?核材料和核設施的安全管理和運營；

用于刑事調查或逮捕的生物特征信息（如面部特征、指紋、虹膜和掌紋）的分析和利用，涉及可識別個人的生理或行為特征；

?對個人權利和義務產生重大影響的決策或評估，如招聘或貸款審查；

?交通工具、設施和系統的主要運營和管理；

?影響公民的決策，包括國家、地方政府或公共機構對公共服務的資格驗證、確定或費用收取；

?學前教育、初等教育和中等教育中的學生評估；

?其他由總統令規定的對人類生命、身體健康或基本權利有重大影響的領域。

“生成式人工智能”是指模仿輸入數據的結構和特征，生成文本、聲音、圖像、視頻或其他多樣化輸出的人工智能系統。

02、核心義務

《人工智能基本法》所規定的主要合規義務要求如下：

1. 透明度義務（第31條）

?預先通知義務（第1款）：當提供利用高影響人工智能或生成式人工智能的產品或服務時，人工智能業務經營者必須提前通知用戶該產品或服務基于此類人工智能運行。

?標注人工智能生成輸出的義務（第2款）：當提供利用生成式人工智能的產品或服務時，人工智能業務經營者必須標明生成式人工智能的輸出或利用其的產品或服務是由生成式人工智能生成的。

?通知人工智能生成輸出的義務（第3款）：如果人工智能業務經營者提供難以與現實區分的虛擬輸出，如聲音、圖像或視頻，他們必須明確通知或標明用戶這些輸出是由人工智能生成的。如果這些輸出構成或部分構成藝術或創意表達，通知或標明可以采取不妨礙其展示或欣賞的方式。

2. 安全保障義務（第32條）

?安全保障義務（第1款）：對于累積運算量超過一定數量級的人工智能系統，人工智能業務經營者必須采取識別、評估、減輕人工智能風險的安全保障措施，并建立人工智能風險管理系統。

?安全措施實施報告義務（第2款）：適用前述安全保障義務要求的人工智能業務經營者必須向監管機構報告安全措施的實施情況。

3. 高影響人工智能的識別義務（第33條）

?人工智能業務經營者必須主動識別相關人工智能產品和服務是否屬于高影響人工智能。如有必要，可以請求監管機構確認其是否屬于高影響人工智能。

4. 高影響人工智能的特殊安全保障義務（第34條）

?提供和利用高影響人工智能的產品或服務的人工智能業務經營者必須采取進一步特殊的安全保障措施，以確保人工智能的安全性和可靠性，例如建立和運營風險管理計劃、建立和運營用戶保護措施、對高影響人工智能進行人類監督等。

5. 高影響人工智能影響評估義務（第35條）

?提供和利用高影響人工智能的產品或服務的人工智能業務經營者必須努力提前評估其對基本人權的潛在影響。

03、監管機構及處罰規則

根據《人工智能基本法》第40條，韓國科學技術信息通信部在發現或懷疑人工智能業務經營者存在違法行為時，可以要求人工智能業務經營者提交相關材料或進行必要的調查。如果確認違法，韓國科學技術信息通信可以責令人工智能業務經營者暫停違法活動或要求進行整改。

未能遵守該責令暫停或整改要求的人工智能業務經營者，將被處以最高3000萬韓元（約15萬元人民幣）的罰款。

此外，如果人工智能業務經營者未能履行前述提及的預先通知義務（第31條第1款），或落入域外適用效力的境外人工智能業務經營者未能指定本地代表，將直接導致最高3000萬韓元（約15萬元人民幣）的罰款。

來源：愚公法律評論（龔鈺律師團隊微信公眾號）

龔鈺律師團隊相關文章：

專家簡介

龔鈺

走出去智庫（CGGT）特約法律專家

鴻鵠律師事務所（Bird & Bird）合伙人

龔律師領導鴻鵠律師事務所中國的數據保護和網絡安全團隊。他在數據保護、網絡安全以及科技、媒體、電信相關的監管及交易方面經驗非常豐富。他曾為來自多個行業的中國和跨國客戶提供境內外法律服務，擅長解決行業相關的復雜法律問題。龔律師的觀點經常被媒體引用，并且作為業內認可的作者發表TMT及數據相關文章。

龔律師畢業于曼徹斯特大學，并獲得法學學士學位。他擁有中華人民共和國法律職業資格和美國紐約州律師執業資格。他還是國際隱私專業人員協會成員，持有CIPP/E、CIPP/US 和CIPM證書。

業界榮譽：

中國《商法》：

• 2023-24法律精英：律界精銳

• 律師新星，2023

法律500強：

• 中國：數據保護（外資所）新生代合伙人，2024

• 中國：TMT（外資所）新生代合伙人，2022，2024

• 中國：生命科學（外資所）高度推薦律師，2024

• 中國：公司法及并購（外資所）高度推薦律師，2024

• 2023中國法律大獎：提名年度新生代合伙人、TMT年度律師

《亞洲法律雜志》（ALB）：中國十五佳TMT律師，2022

Lexology CMA：TMT - 亞太地區影響力律師（2024Q1、2023 Q1Q2、2022 Q2Q4）

ALM Law.com: 提名年度數據隱私律師, 2024

執業經驗：

為蔚來汽車、小鵬汽車、吉利汽車、北汽福田、比亞迪、石基信息、菜鳥網絡、華為、千尋位置、邁瑞醫療、健世科技、小天才、Vivo、科大訊飛、中銀國際、中國農業銀行、美的、螞蟻金服等眾多企業就數據合規相關問題提供法律服務。

延展閱讀

▌地緣政治風險:

▌出口管制與制裁:

▌跨境數據監管:

▌全球科技競爭:

▌品牌聲譽管理:

《戰略公關洞察｜政策監管和溝通傳播｜月報》

AI（人工智能）等技術推動產業升級，成為中國高科技企業轉型發展的重要工具和手段。

走出去智庫《跨境監管和戰略公關｜洞察月報》團隊，持續服務中國頭部高科技企業，華為、字節跳動、TCL科技等，助力中國企業在復雜的地緣政治背景下，理解跨境監管合規挑戰，支持企業品牌公關部、政府事務部、合規部，進行跨國業務的戰略傳播溝通和風險規避的決策參考，主要內容包括——

- 地緣政策風險、合規風險、海外聲譽風險的前瞻預警

- 針對跨國業務場景的利益相關方溝通傳播議題和策略

- 政治風險、輿情風險演進的法律危機公關實務