生成式人工智能場(chǎng)域下，信用數(shù)據(jù)法律保護(hù)是實(shí)現(xiàn)數(shù)字法治的關(guān)鍵一環(huán) 。信用數(shù)據(jù)應(yīng)以“用于識(shí)別判斷企業(yè)和個(gè) 人信用狀況 ”作為核心判斷標(biāo)準(zhǔn)，其具有實(shí)現(xiàn)直接效益、承擔(dān)金融信貸以及維系社會(huì)信用的特有屬性 。就信用數(shù)據(jù)的流程 性風(fēng)險(xiǎn)而言，其存在生成式人工智能的違法爬取與算法濫用風(fēng)險(xiǎn)；就信用數(shù)據(jù)的內(nèi)生性風(fēng)險(xiǎn)而言，其存在生成式人工智能 的回溯流轉(zhuǎn)與深度偽造風(fēng)險(xiǎn) 。信用數(shù)據(jù)的宏觀治理應(yīng)當(dāng)重申目的限制原則的約束、確保利益衡量原理的運(yùn)用以及實(shí)現(xiàn)多 元治理理念的貫徹 。信用數(shù)據(jù)的具體保障進(jìn)路應(yīng)當(dāng)圍繞事前監(jiān)督的管理舉措、事中監(jiān)管的審查機(jī)制以及事后救濟(jì)的責(zé)任 分配展開，凸顯生成式人工智能場(chǎng)域下信用數(shù)據(jù)法律治理的效率性、安全性以及公平性。

自O(shè)penAI推出自然語言處理工具ChatGPT、文生視頻工具Sora以來，以該類工具為代表的生成式人工智能（Generative Artificial Intelligence，以下簡(jiǎn)稱GAI）實(shí)現(xiàn)了人機(jī)交互領(lǐng)域革命式的飛躍。當(dāng)下，GAI在諸多領(lǐng)域的亮眼成就為人造科學(xué)與工程、生物學(xué)、醫(yī)學(xué)等基礎(chǔ)學(xué)科的融合發(fā)展鋪平了道路，其將減少真實(shí)人工產(chǎn)品和虛擬人工產(chǎn)品之間的差異，實(shí)現(xiàn)虛擬世界和物理世界中人類經(jīng)驗(yàn)和行為的交叉融合。

毋庸置疑，GAI的交互性、自主性以及創(chuàng)新性深刻地影響和改變了既有的人際生活關(guān)系、社會(huì)利益分配，成為推動(dòng)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展、實(shí)現(xiàn)國家治理現(xiàn)代化的又一著力點(diǎn)。例如，2024年法國數(shù)據(jù)團(tuán)隊(duì)基于公共服務(wù)實(shí)用信息訓(xùn)練研發(fā)了模塊化GAI“Albert”，其旨在提升行政手續(xù)的效率而滿足行政機(jī)關(guān)提供公共服務(wù)的不同場(chǎng)景需要。然而，GAI特有的傾向性預(yù)訓(xùn)練語言模型、周期性數(shù)據(jù)處理流程、“黑箱式”算法邏輯規(guī)則等纏附諸多未知的風(fēng)險(xiǎn)，如美國一名律師借助ChatGPT搜集類案資料呈交法官，該機(jī)器人明確表示生成的案例信息“千真萬確”并且附帶了相關(guān)信息的出處，但法院最后證實(shí)，原告方所提交資料的判決結(jié)果和引語等全部是子虛烏有。

既有研究尚未針對(duì)性地關(guān)注GAI中信用數(shù)據(jù)的風(fēng)險(xiǎn)治理和法律保護(hù)問題，但這是十分特殊且必要的。因?yàn)樵谕暾腉AI運(yùn)行過程中，信息抑或數(shù)據(jù)成為構(gòu)筑GAI應(yīng)用的核心，是預(yù)訓(xùn)練、算法決策、結(jié)果輸出三個(gè)階段的重要參數(shù)，是在不同神經(jīng)網(wǎng)絡(luò)架構(gòu)下開展機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的“養(yǎng)料”。從金融風(fēng)險(xiǎn)來看，由AI生成的小作文欺騙性與迷惑性極強(qiáng)，低門檻、影響大的謠言出現(xiàn)抑或反轉(zhuǎn)讓以“信息＋信心”為核心的股市市場(chǎng)交易秩序混亂、動(dòng)搖投資者信心，造成資本市場(chǎng)嚴(yán)重的信用毀損。鑒于此，本文將GAI場(chǎng)域下信用數(shù)據(jù)作為研究對(duì)象并具體展開如下探討：分析信用數(shù)據(jù)有別于傳統(tǒng)數(shù)據(jù)的規(guī)范定位，探析GAI中信用數(shù)據(jù)潛在的法律風(fēng)險(xiǎn)，辨析GAI中實(shí)現(xiàn)信用數(shù)據(jù)審慎治理的宏觀邏輯，最后縷析GAI中信用數(shù)據(jù)法律保障的全流程進(jìn)路。

一、生成式人工智能中信用數(shù)據(jù)的規(guī)范定位

信用與信用數(shù)據(jù)的關(guān)系在于：信用數(shù)據(jù)是傳統(tǒng)觀念上的信用在GAI場(chǎng)域下物理化的電磁記錄，而信用是信用數(shù)據(jù)的保護(hù)法益，二者分屬保護(hù)對(duì)象、保護(hù)目的范疇。信用數(shù)據(jù)的內(nèi)涵和屬性決定了GAI場(chǎng)域中信用數(shù)據(jù)的保護(hù)范圍，有必要優(yōu)先探尋其相應(yīng)的規(guī)范定位。

（一）信用數(shù)據(jù)的基本內(nèi)涵

從信用的發(fā)展歷程來看，信用數(shù)據(jù)的出現(xiàn)拓寬了法律對(duì)信用的保護(hù)場(chǎng)景。在鄉(xiāng)土社會(huì)的差序格局中，社會(huì)關(guān)系是逐漸從一個(gè)一個(gè)人推出去的，社會(huì)范圍是私人聯(lián)系的增加而構(gòu)成的網(wǎng)絡(luò)，此時(shí)信用只有在私人聯(lián)系的“熟人”社會(huì)關(guān)系中發(fā)生意義，其調(diào)整的社會(huì)規(guī)范主要是道德而無需法律過多介入。在受到大數(shù)據(jù)、人工智能深遠(yuǎn)影響的當(dāng)前社會(huì)格局下，信用以數(shù)據(jù)為載體，在“陌生”社會(huì)關(guān)系中淡化了人格屬性而導(dǎo)向了財(cái)產(chǎn)屬性一側(cè)，法律規(guī)范便強(qiáng)化了保護(hù)的正當(dāng)性根基。

從鄉(xiāng)土社會(huì)到人工智能社會(huì)的轉(zhuǎn)型，信用也相應(yīng)地發(fā)生了時(shí)代性的變遷：即交易者從基于人身血緣的信任、契約合同的信任逐漸轉(zhuǎn)化為對(duì)信息（數(shù)據(jù)）的真實(shí)性和有效性的信任，數(shù)據(jù)信用成為人與數(shù)據(jù)之間形成的一種單向信任的生產(chǎn)關(guān)系和社會(huì)關(guān)系。比如，就有效性保護(hù)而言，在網(wǎng)絡(luò)交易平臺(tái)惡意刷競(jìng)爭(zhēng)店鋪的銷量和信譽(yù)導(dǎo)致店鋪被平臺(tái)以虛假交易事由搜索降權(quán)，此種“反向刷單炒信”行為被司法實(shí)踐認(rèn)定為破壞生產(chǎn)經(jīng)營(yíng)罪，其大幅擴(kuò)充了信用的法秩序保護(hù)場(chǎng)景。

從既有規(guī)范對(duì)信用信息基本內(nèi)涵的框定來看，其主要包含“技術(shù)信用、經(jīng)濟(jì)信用以及社會(huì)信用”三種類型。

第一種，國標(biāo)《信用基本術(shù)語》（GB/T22117-2018）2.22將“信用信息”規(guī)定為：個(gè)人或組織在社會(huì)與經(jīng)濟(jì)活動(dòng)中產(chǎn)生的與信用有關(guān)的記錄，以及與評(píng)價(jià)其信用價(jià)值相關(guān)的各類信息。其聚焦國家技術(shù)標(biāo)準(zhǔn)領(lǐng)域，對(duì)信用信息采取了“信用或信用價(jià)值”的“相關(guān)性”判斷標(biāo)準(zhǔn)，其因界定范圍過于寬泛而屬于廣義層面的信用信息。

第二種，2022年《社會(huì)信用體系建設(shè)法（向社會(huì)公開征求意見稿）》（以下簡(jiǎn)稱《信用建設(shè)法》）第二條將其規(guī)定為：可用以識(shí)別具有完全民事行為能力的自然人、法人和非法人組織身份和信用狀況的信息。其圍繞社會(huì)信用體系建設(shè)的領(lǐng)域，對(duì)信用信息采取了“身份與信用狀況”的“可識(shí)別性”判斷標(biāo)準(zhǔn)。

相較于第一種而言，第二種類型中的“可識(shí)別性”比前述“相關(guān)性”標(biāo)準(zhǔn)的識(shí)別范圍更窄，因而屬于中義層面的定義。

第三種，2022年《征信業(yè)務(wù)管理辦法》（以下簡(jiǎn)稱《征信辦法》）第三條將其規(guī)定為：依法采集，為金融等活動(dòng)提供服務(wù)，用于識(shí)別判斷企業(yè)和個(gè)人信用狀況的基本信息、借貸信息、其他相關(guān)信息，以及基于前述信息形成的分析評(píng)價(jià)信息。其關(guān)注經(jīng)濟(jì)信用的領(lǐng)域而采用了“合法性、目的性以及信用狀況的識(shí)別性”判斷標(biāo)準(zhǔn)，屬于狹義層面的界定。三種信用數(shù)據(jù)并非既有規(guī)范的內(nèi)容沖突，而是從關(guān)涉業(yè)務(wù)場(chǎng)景進(jìn)行的分類，因而難以按照某一時(shí)點(diǎn)規(guī)范的效力層級(jí)確定信用信息的統(tǒng)一內(nèi)涵。

實(shí)際上，信用大數(shù)據(jù)時(shí)代已不存在嚴(yán)格意義上的信用信息而無法通過列舉識(shí)別，無論是征信還是社會(huì)信用立法領(lǐng)域，為實(shí)現(xiàn)立法的安定性和周延性，應(yīng)將“用于識(shí)別判斷企業(yè)和個(gè)人信用狀況”的信用目的作為判斷“信用信息”的核心標(biāo)準(zhǔn)。唯有對(duì)信用信息基本內(nèi)涵的識(shí)別標(biāo)準(zhǔn)達(dá)成共識(shí)，探討GAI中信用數(shù)據(jù)潛在的法律風(fēng)險(xiǎn)才有章可循。

（二）信用數(shù)據(jù)的特有屬性

《中華人民共和國民法典》第一千零二十四條第二款將信用作為名譽(yù)權(quán)保護(hù)內(nèi)容之一，名譽(yù)權(quán)與信用的法律保護(hù)問題在名譽(yù)數(shù)據(jù)與信用數(shù)據(jù)的保護(hù)問題上存在競(jìng)合關(guān)系。鑒于此，有必要對(duì)名譽(yù)數(shù)據(jù)與信用數(shù)據(jù)的規(guī)范屬性加以甄別。

第一，信用數(shù)據(jù)具有實(shí)現(xiàn)直接效益的功能，是信用主體提升市場(chǎng)競(jìng)爭(zhēng)地位的關(guān)鍵要素。除了文首利用GAI生成與信用有關(guān)的虛假小作文造成股價(jià)損失外，信用與收益的直接性關(guān)聯(lián)還體現(xiàn)在互聯(lián)網(wǎng)電商領(lǐng)域。因?yàn)樵陔娮由虅?wù)領(lǐng)域，刷單炒信直接損害的是電子商務(wù)信用評(píng)價(jià)機(jī)制，刷單者偽造信用指標(biāo)侵犯了消費(fèi)者的知情權(quán)、造成了不公平競(jìng)爭(zhēng)以及平臺(tái)運(yùn)營(yíng)者的巨大經(jīng)濟(jì)損失。類似的數(shù)據(jù)造假借助GAI迭代技術(shù)會(huì)變得愈發(fā)簡(jiǎn)單和門檻極低，但其皆未必與民事主體的道德、能力、聲望，以及身體狀態(tài)等有關(guān)而關(guān)涉名譽(yù)權(quán)。

第二，信用數(shù)據(jù)具備承擔(dān)金融信貸的功能，是促進(jìn)社會(huì)征信業(yè)務(wù)健康發(fā)展的核心要素。在征信領(lǐng)域，信用數(shù)據(jù)一般包含信息主體的借貸、擔(dān)保、欠稅、消費(fèi)、生產(chǎn)經(jīng)營(yíng)等，在取得信息主體書面同意下，還得以涵蓋個(gè)人的收入、存款、有價(jià)證券、商業(yè)保險(xiǎn)等。信用數(shù)據(jù)得以揭示金融市場(chǎng)信用風(fēng)險(xiǎn)、減少信息不對(duì)稱對(duì)市場(chǎng)效率的影響，授信方得以衡量貸款風(fēng)險(xiǎn)、減少交易成本、提高信貸決策效率；被授信方能夠降低實(shí)物抵押擔(dān)保負(fù)擔(dān)、提升融資力度；監(jiān)管者可以提高金融體系的穩(wěn)定性、穩(wěn)定國家金融秩序以及優(yōu)化營(yíng)商環(huán)境。盡管信用數(shù)據(jù)范圍十分廣泛，但《征信業(yè)管理?xiàng)l例》（以下簡(jiǎn)稱《征信條例》）第十四條明確禁止征信機(jī)構(gòu)采集有關(guān)個(gè)人宗教信仰、基因、指紋、血型、疾病等個(gè)人信息，然而實(shí)踐中的名譽(yù)侵權(quán)卻多與前述被禁止采集的數(shù)據(jù)存在密切關(guān)聯(lián)。

第三，信用數(shù)據(jù)具有維系社會(huì)信用的功能，是建立健全社會(huì)信用體系建設(shè)的基礎(chǔ)要素。《信用建設(shè)法》將社會(huì)信用體系區(qū)分為政務(wù)誠信、商務(wù)誠信、社會(huì)誠信、司法公信四大類，其皆離不開對(duì)信用數(shù)據(jù)的合理收集以及安全保障；依據(jù)其第五十八條，信息數(shù)據(jù)可界定包含基礎(chǔ)信用信息（用以識(shí)別信用信息主體身份和記載基本情況的信息）、能夠反映信用信息主體信用的信息（如行政許可、法院判決以及榮譽(yù)表彰等）兩類。于是，信用數(shù)據(jù)包含除了“個(gè)人信息”以外的其他數(shù)據(jù)，而關(guān)涉名譽(yù)權(quán)的數(shù)據(jù)則以“已識(shí)別”或者“可識(shí)別”為限，否則行為難以符合名譽(yù)貶損對(duì)象要件中的“他人性”要素。

二、生成式人工智能中信用數(shù)據(jù)的法律風(fēng)險(xiǎn)

眾所周知，GAI引發(fā)新一輪技術(shù)革命的同時(shí)也引起了各國對(duì)數(shù)據(jù)風(fēng)險(xiǎn)的擔(dān)憂，比如2023年意大利數(shù)據(jù)保護(hù)局（DPA）“一刀切式”地禁止使用ChatGPT，并限制OpenAI處理本國用戶信息，而歐盟則于2024年公布《人工智能法案》（以下簡(jiǎn)稱AIAct）展現(xiàn)了對(duì)新技術(shù)的謹(jǐn)慎態(tài)度。GAI模式運(yùn)行的流程性與信用數(shù)據(jù)的流動(dòng)性決定了數(shù)據(jù)安全風(fēng)險(xiǎn)的泛在性，要探索GAI場(chǎng)域中信用數(shù)據(jù)的法律保護(hù)邏輯與進(jìn)路，應(yīng)結(jié)合GAI的“數(shù)據(jù)訓(xùn)練、算法決策、結(jié)果輸出”運(yùn)行階段展開風(fēng)險(xiǎn)分析。

（一）信用數(shù)據(jù)的流程性風(fēng)險(xiǎn)：生成式人工智能的違法爬取與算法濫用

其一，GAI的數(shù)據(jù)訓(xùn)練階段存在對(duì)信用數(shù)據(jù)的違法爬取而引發(fā)安全性風(fēng)險(xiǎn)。

第一，在數(shù)據(jù)訓(xùn)練的輸出階段，驗(yàn)證數(shù)據(jù)集預(yù)訓(xùn)練依賴于GAI對(duì)原生性信用數(shù)據(jù)的正向式、主動(dòng)地爬取而纏附危險(xiǎn)。以ChatGPT為代表的GAI在預(yù)訓(xùn)練階段需要大量的數(shù)據(jù)支撐，當(dāng)其被投喂數(shù)據(jù)時(shí)能夠及時(shí)將社會(huì)所有個(gè)體的姓名、性別、電話、居住地址、出行軌跡、消費(fèi)記錄、診療檔案等相關(guān)信息予以儲(chǔ)存記錄，此時(shí)僅需借助簡(jiǎn)單的機(jī)器算法便可輕而易舉地推測(cè)出特定個(gè)體的個(gè)人偏好、財(cái)務(wù)狀況、信用評(píng)級(jí)等隱私信息，加劇了信息泄露和被濫用的潛在風(fēng)險(xiǎn)。例如，2023年谷歌就曾被指控違法竊取數(shù)百萬用戶的數(shù)據(jù)來訓(xùn)練AI，Clarkson律所起訴谷歌“一直在秘密竊取數(shù)億美國人在互聯(lián)網(wǎng)上創(chuàng)造和分享的一切”，并利用這些數(shù)據(jù)來訓(xùn)練其AI產(chǎn)品（如ChatbotBard），起訴書還稱谷歌在構(gòu)建其產(chǎn)品時(shí)“幾乎占用了我們的整個(gè)數(shù)字足跡”，包括“創(chuàng)意和文案作品”。

第二，在數(shù)據(jù)訓(xùn)練的輸入階段，GAI同樣能夠反向式、被動(dòng)地借助系統(tǒng)模型將使用者輸入的文字、圖像、音頻等內(nèi)容以數(shù)據(jù)形式違規(guī)留存。例如，2024年11月OpenAI隱私政策的第4條明確規(guī)定了“個(gè)人數(shù)據(jù)的保留”，即平臺(tái)保留用戶個(gè)人數(shù)據(jù)的時(shí)長(zhǎng)取決于多種因素，其判斷取決于處理數(shù)據(jù)的目的、數(shù)量、性質(zhì)、敏感性以及未經(jīng)授權(quán)使用或披露造成的潛在風(fēng)險(xiǎn)等，但僅在某些情形下取決于用戶的個(gè)人設(shè)置，其平臺(tái)自主性決定程序極高而可能侵害GAI信用數(shù)據(jù)服務(wù)使用者的知情權(quán)、決定權(quán)以及刪除權(quán)等。尤其是在以WarrenQ-Chat為代表的AI金融垂直平臺(tái)中，信用主體數(shù)據(jù)處理的正當(dāng)程序、合理期限等要素至關(guān)重要，其與信用主體的利益具有直接性關(guān)聯(lián)而安全保護(hù)必要性顯著增強(qiáng)。

其二，GAI的算法決策階段從自發(fā)到自覺的數(shù)據(jù)處理模式容易造成算法濫用而招致失秩性風(fēng)險(xiǎn)。

第一，在GAI算法模型的自主研發(fā)中，研發(fā)者在預(yù)訓(xùn)練階段就已經(jīng)通過循環(huán)式人工標(biāo)注的打分模型優(yōu)化改進(jìn)了原算法決策模型，將生成的信用數(shù)據(jù)內(nèi)容以符合研發(fā)者、使用者同行人領(lǐng)域的偏好標(biāo)準(zhǔn)，抑或外行人領(lǐng)域的平行評(píng)價(jià)呈現(xiàn)，該算法對(duì)信用數(shù)據(jù)的形成邏輯固有地內(nèi)含了某種歧視性和壟斷性風(fēng)險(xiǎn)。

就歧視性風(fēng)險(xiǎn)而言，比如編程算法以一定的基準(zhǔn)預(yù)先設(shè)立抓取的特定路徑而帶有明顯的個(gè)人偏見色彩；就實(shí)效性的征信數(shù)據(jù)而言，如若個(gè)人征信系統(tǒng)包含個(gè)人信息的數(shù)據(jù)庫更新頻次不足而導(dǎo)致數(shù)據(jù)不準(zhǔn)確，則算法對(duì)數(shù)據(jù)分析的結(jié)果與個(gè)人真實(shí)的信用評(píng)價(jià)便不匹配，進(jìn)而影響個(gè)人的貸款成功率等，其屬算法濫用造成信用主體的不當(dāng)“畫像”、評(píng)分評(píng)級(jí)以及技術(shù)偏見，明顯造成以信用數(shù)據(jù)為核心的征信體系、社會(huì)信用建設(shè)體系的秩序性混亂。在風(fēng)險(xiǎn)社會(huì)中，風(fēng)險(xiǎn)對(duì)立分配的邏輯在于：此種分配不僅取決于一個(gè)人的絕對(duì)財(cái)富水平，還取決于一個(gè)人相對(duì)于他人的財(cái)富水平；尤其是在此種風(fēng)險(xiǎn)對(duì)立下并非每個(gè)人都能從危險(xiǎn)加劇情境中擁有“私人逃生路線”，于是個(gè)人相較于他人財(cái)富水平的對(duì)比關(guān)系決定了是否會(huì)被分配諸多風(fēng)險(xiǎn)。

此種基于財(cái)富差異形成的風(fēng)險(xiǎn)分配邏輯，在GAI領(lǐng)域體現(xiàn)在算法設(shè)計(jì)的風(fēng)險(xiǎn)配置上：即在GAI三方法律關(guān)系下，算法研發(fā)者、服務(wù)提供者多以資力雄厚的網(wǎng)絡(luò)數(shù)據(jù)平臺(tái)、高新科技公司以及相關(guān)的金融信用公司為主，信用數(shù)據(jù)服務(wù)使用者可能因?yàn)槲促Y本性實(shí)質(zhì)參與算法的設(shè)計(jì)階段而明顯處于弱勢(shì)地位。

于是，GAI中算法濫用（尤其是當(dāng)前服務(wù)研發(fā)者與提供者多以混同存在）能夠形成經(jīng)營(yíng)者過度集中而限制市場(chǎng)競(jìng)爭(zhēng)，進(jìn)而通過限制信用數(shù)據(jù)流通制造市場(chǎng)的規(guī)模性壟斷。比如，除去電子商務(wù)領(lǐng)域通過搜索引擎算法設(shè)計(jì)操縱店鋪主體信用的自然搜索結(jié)果、等級(jí)排序而侵害數(shù)據(jù)信用的真實(shí)有效外，部分企業(yè)基于算法使用形成的價(jià)格政策可能會(huì)因違反市場(chǎng)規(guī)則而嚴(yán)重侵害國民對(duì)市場(chǎng)信用的信賴。比如，在金融高頻交易領(lǐng)域，代表性的例子就是2014年美國的雅典娜資本調(diào)查事件，該資本編譯了一種算法用于實(shí)施非常經(jīng)典但迄今為止難以想象的金融操作，即利用算法作為一種市場(chǎng)收盤標(biāo)記策略，允許在收盤前的幾秒鐘進(jìn)行大規(guī)模市場(chǎng)交易以影響最后的交易價(jià)格，通過算法濫用破壞信用數(shù)據(jù)的秩序價(jià)值內(nèi)核。

第二，GAI算法決策除了研發(fā)者的自主設(shè)計(jì)外同時(shí)包含了AI的自覺性部分，其形塑了“算法黑箱”生成信用數(shù)據(jù)機(jī)制的不可知性與可解釋性危機(jī)。在算法安全風(fēng)險(xiǎn)形成的機(jī)制中，人為性是安全風(fēng)險(xiǎn)的前因，人是一切安全風(fēng)險(xiǎn)的起點(diǎn)，“人的意志”經(jīng)由開發(fā)訓(xùn)練貫徹至“算法黑箱”的形成維護(hù)中，又以決策和行為的形式擊穿開發(fā)、應(yīng)用乃至監(jiān)管的場(chǎng)景層而抵達(dá)“風(fēng)險(xiǎn)側(cè)”。

針對(duì)此種周期性與往復(fù)式的算法決策修改、對(duì)非專業(yè)人士代碼技術(shù)解讀壁壘的考量，GAI研發(fā)者與提供者實(shí)際上難以向被決策方說明算法生成信用數(shù)據(jù)的數(shù)理邏輯。于是，GAI算法技術(shù)的門檻性導(dǎo)致信用數(shù)據(jù)存在不可解釋性的困難。同時(shí)，算法的應(yīng)公開性與商業(yè)秘密的受保護(hù)性存在底層規(guī)范邏輯的沖突，于是GAI算法理解的非透明性造就了信用數(shù)據(jù)輸出的不可知性。

（二）信用數(shù)據(jù)的內(nèi)生性風(fēng)險(xiǎn)：生成式人工智能的回溯流轉(zhuǎn)與深度偽造

其一，信用數(shù)據(jù)在GAI的結(jié)果輸出階段存在跨境的流動(dòng)性風(fēng)險(xiǎn)。

第一，該跨境流動(dòng)性風(fēng)險(xiǎn)表現(xiàn)為對(duì)數(shù)據(jù)安全評(píng)估的違規(guī)風(fēng)險(xiǎn)。前已述及，信息數(shù)據(jù)包含識(shí)別性的基礎(chǔ)信用信息、反映主體信用的信息兩類。從事實(shí)上來看，其毫無疑問與個(gè)人信息存在重合。

從規(guī)范上來看，《中華人民共和國數(shù)據(jù)出境安全評(píng)估辦法》（以下簡(jiǎn)稱《評(píng)估辦法》）第二條明確規(guī)定，數(shù)據(jù)處理者在我國境內(nèi)收集和產(chǎn)生的重要數(shù)據(jù)和個(gè)人信息的安全評(píng)估適用本辦法。《促進(jìn)和規(guī)范數(shù)據(jù)跨境流動(dòng)規(guī)定》（以下簡(jiǎn)稱《流動(dòng)規(guī)定》）第七條規(guī)定，作為境內(nèi)關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營(yíng)者的數(shù)據(jù)處理者向境外提供個(gè)人信息、重要數(shù)據(jù)（運(yùn)營(yíng)者以外的數(shù)據(jù)處理者向境外提供重要數(shù)據(jù)或者達(dá)到一定標(biāo)準(zhǔn)的個(gè)人、敏感個(gè)人信息）需要申報(bào)數(shù)據(jù)出境安全評(píng)估。

《信用建設(shè)法》第六十四條亦規(guī)定，信用信息的處理應(yīng)當(dāng)在境內(nèi)進(jìn)行。然而，國內(nèi)用戶在使用以ChatGPT為代表的域外GAI應(yīng)用時(shí)，相關(guān)信息卻是傳輸至該服務(wù)提供者的境外數(shù)據(jù)處理中心，再經(jīng)由AI應(yīng)用反饋回復(fù)服務(wù)使用者；是否需要針對(duì)個(gè)人信息的收集、存儲(chǔ)履行具體的事前告知同意便存在難題，而且其存在事實(shí)上的數(shù)據(jù)出境行為。因?yàn)椋谑褂谜吲cGAI應(yīng)用如此回溯交互之余，提供者已然完成域內(nèi)信用數(shù)據(jù)的境外流轉(zhuǎn)以及留存，因而當(dāng)然地違反前述強(qiáng)制性規(guī)范中的安全評(píng)估義務(wù)。

第二，該跨境流動(dòng)性風(fēng)險(xiǎn)體現(xiàn)為對(duì)國家安全以及社會(huì)公共利益的風(fēng)險(xiǎn)。從規(guī)范上來看，《評(píng)估辦法》第十九條和《中華人民共和國網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》（以下簡(jiǎn)稱《網(wǎng)安條例》）第六十二條將“重要數(shù)據(jù)”定義為：一旦遭到篡改、破壞、泄露或者非法獲取、非法利用等，可能危害國家安全、經(jīng)濟(jì)運(yùn)行、社會(huì)穩(wěn)定、公共健康和安全等的數(shù)據(jù)。

2021年《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——網(wǎng)絡(luò)數(shù)據(jù)分類分級(jí)指引》（以下簡(jiǎn)稱網(wǎng)安指南》）2.2則對(duì)“重要數(shù)據(jù)”又作出如下限制性規(guī)定：原則上不包含國家秘密、個(gè)人信息以及企業(yè)內(nèi)部管理信息，但當(dāng)個(gè)人信息達(dá)到“規(guī)模性”或者基于海量個(gè)人信息加工形成衍生數(shù)據(jù)而關(guān)涉國家安全、公共利益時(shí)不受此限。于是，識(shí)別性的基礎(chǔ)信用信息（即個(gè)人信息）和重要數(shù)據(jù)并非水火不容的概念，二者在前述謂之“規(guī)模性、關(guān)涉性”下存在包容的余地。

從事實(shí)上來看，當(dāng)前絕大多數(shù)的GAI應(yīng)用除了支持自然語言文本、聲音、圖像以及函數(shù)調(diào)用等方式互動(dòng)外，尚且配有數(shù)據(jù)實(shí)證分析、金融統(tǒng)計(jì)分析輸入的特色功能模塊，其為大規(guī)模、海量的信用數(shù)據(jù)跨境流動(dòng)提供了可能。于是，信用數(shù)據(jù)的違規(guī)跨境流動(dòng)不僅可能危及個(gè)人信用法益，而且極有可能危及國家安全、社會(huì)公共利益的超個(gè)人法益。也正是基于上述原因，中國支付清算協(xié)會(huì)就曾發(fā)布《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》，避免企業(yè)員工因使用此類智能化工具導(dǎo)致跨境數(shù)據(jù)泄露的風(fēng)險(xiǎn)出現(xiàn)。

其二，信用數(shù)據(jù)于GAI的結(jié)果輸出階段呈現(xiàn)數(shù)據(jù)失真性風(fēng)險(xiǎn)。在利用GAI深度合成領(lǐng)域，此種失真性風(fēng)險(xiǎn)體現(xiàn)在“深度偽造”（Deepfake）問題上。從技術(shù)上來看，深度偽造技術(shù)在誘發(fā)網(wǎng)絡(luò)攻擊方面帶來了毀滅性挑戰(zhàn)，該技術(shù)能夠創(chuàng)建生成虛假視頻、虛假圖像以及克隆語音信息，網(wǎng)絡(luò)釣魚者可以生成幾乎完美而足以代表各種大公司（主要是商業(yè)銀行）股東的語音復(fù)制品，說服員工和公眾泄露他們的登錄憑證，從而導(dǎo)致網(wǎng)絡(luò)攻擊。

例如，香港就曾發(fā)生詐騙分子利用AI的深度偽造技術(shù)從國外視聽網(wǎng)站YouTube上下載視頻，模仿跨國公司高層人員的聲音并制作AI“多人換臉”視頻，通過營(yíng)造多人線上參與公司內(nèi)部視頻會(huì)議的假象成功欺騙公司職員轉(zhuǎn)賬2億港元。2023年《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十四條規(guī)定，深度合成服務(wù)提供者和技術(shù)支持者在提供人臉、人聲等生物識(shí)別信息編輯功能時(shí)，應(yīng)當(dāng)提示該技術(shù)服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。然而，從實(shí)踐上來看，深度合成服務(wù)的提供者不僅可能難以取得個(gè)人的單獨(dú)授權(quán)同意，而且完全可能是根本不具備取得授權(quán)的規(guī)范意識(shí)。

比如，在“林某肖像權(quán)糾紛案”中，原告是坐擁25.4萬粉絲的某短視頻博主，被告是運(yùn)營(yíng)“AI視頻換臉”微信小程序的某科技公司，法院查明被告未經(jīng)同意便使用AI視頻換臉技術(shù)侵犯了原告肖像權(quán),本案難謂被告不存在取得原告單獨(dú)授權(quán)同意的機(jī)會(huì)。

三、生成式人工智能中信用數(shù)據(jù)的宏觀治理邏輯

雖然GAI的不當(dāng)利用會(huì)造成信用數(shù)據(jù)的諸多風(fēng)險(xiǎn)，但毋庸置疑，其具有技術(shù)中立、技術(shù)向善的一面，有必要對(duì)GAI中信用數(shù)據(jù)宏觀的治理邏輯先予探討。

（一）重申目的限制原則的約束

一般認(rèn)為，處理數(shù)據(jù)應(yīng)當(dāng)符合目的主義的原則源于《中華人民共和國個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱《個(gè)人信息保護(hù)法》）第六條規(guī)定，其與最小必要原則存在親和性。同時(shí)，該法第十七、十九條又規(guī)定了個(gè)人信息處理目的的合理告知、保存期限的目的性限制等標(biāo)準(zhǔn)。此處，目的限制原則與GAI的技術(shù)邏輯存在緊張沖突關(guān)系。

因?yàn)椋瑥臄?shù)據(jù)訓(xùn)練階段來看，就OpenAI而言，其官網(wǎng)GeneralFAQ部分就“何種類型的信息被用來訓(xùn)練ChatGPT？”指出，GAI以及其他服務(wù)是使用互聯(lián)網(wǎng)上公開的信息、與第三方合作的信息、用戶或人力訓(xùn)練師和研究人員提供和產(chǎn)出信息三類。而正如前文所述，OpenAI對(duì)用戶所提供的信息數(shù)據(jù)保留了極高的自主決定權(quán)，信用數(shù)據(jù)可能被反復(fù)性、無限次地用于模型訓(xùn)練，于是目的原則的限制自然落空。

從算法決策、結(jié)果輸出階段來看，對(duì)數(shù)據(jù)處理目的限制原則的偏離主要源自GAI的數(shù)據(jù)挖掘。即個(gè)人數(shù)據(jù)在被收集的時(shí)候需要被詳細(xì)說明且不得超越既定的目的限制，數(shù)據(jù)挖掘?qū)儆跀?shù)據(jù)收集過程中典型的二次目的；但由于數(shù)據(jù)挖掘的探索性本質(zhì)，確定何種合理的模式實(shí)際上是不可能的，因而數(shù)據(jù)挖掘的目的具有不確定性而難以被目的性限制。正是源自前述兩方面目的限制原則的適用窘境，有學(xué)者認(rèn)為：在GAI模型訓(xùn)練下，目的性限制原則陷入了循環(huán)論證的悖論；而在人機(jī)互動(dòng)對(duì)話的場(chǎng)景下，該原則亦難以明確劃定個(gè)人數(shù)據(jù)的行為邊界，因?yàn)榇竽Ｐ团cGAI所嵌入應(yīng)用進(jìn)行服務(wù)和數(shù)據(jù)的交互可能是實(shí)現(xiàn)服務(wù)所必要的。

然而，目的性限制原則在人工智能領(lǐng)域中處理數(shù)據(jù)的“遇冷”并不意味著應(yīng)當(dāng)排除此原則的適用；相反，目的性限制原則在GAI的信用數(shù)據(jù)處理中具有重要指導(dǎo)作用而理應(yīng)被強(qiáng)調(diào)和重申。理由包括如下幾個(gè)方面：

第一，從既有處理信用數(shù)據(jù)的規(guī)范條文來看，《民法典》第一千零三十五條（明示處理信息的目的）、《個(gè)人信息保護(hù)法》第六條、《征信辦法》第十二、十五條（分別規(guī)定針對(duì)個(gè)人和企業(yè)采集信用信息的目的限制）以及意見稿《信用建設(shè)法》第六十條（處理信用信息與目的的直接性相關(guān)）等皆規(guī)定了數(shù)據(jù)處理的目的性限制抑或直接性關(guān)聯(lián)。

第二，從信用數(shù)據(jù)的識(shí)別標(biāo)準(zhǔn)來看，“用于識(shí)別判斷企業(yè)和個(gè)人信用狀況”是判斷何為信用數(shù)據(jù)的核心標(biāo)準(zhǔn)，其同時(shí)也構(gòu)成對(duì)GAI中信用數(shù)據(jù)處理的目的性限制。例如，在GAI的數(shù)據(jù)訓(xùn)練、算法決策、結(jié)果輸出三個(gè)階段，其處理的信用數(shù)據(jù)范圍并不涵攝個(gè)人宗教信仰、基因、指紋、血型、疾病和病史信息等，其不僅是因?yàn)榍笆觥墩餍艞l例》第十四條的禁止性規(guī)范的形式要求，更重要的實(shí)質(zhì)原因在于此類數(shù)據(jù)與具體個(gè)人信用狀況并無直接性關(guān)聯(lián)，對(duì)其應(yīng)當(dāng)進(jìn)行數(shù)據(jù)處理的場(chǎng)景性脫離。

第三，從目的性限制原則與相關(guān)數(shù)據(jù)處理指導(dǎo)原則的關(guān)系角度來看，本原則處于個(gè)人數(shù)據(jù)保護(hù)法中的“基石”地位，如若削弱乃至放棄該原則，那么建立在本原則基礎(chǔ)之上而彼此關(guān)聯(lián)的最小必要性、透明、質(zhì)量原則等皆會(huì)難以適用。

（二）確保利益衡量原理的運(yùn)用

利益衡量原理是個(gè)人數(shù)據(jù)處理領(lǐng)域的指導(dǎo)性原則，信用數(shù)據(jù)靜態(tài)控制與動(dòng)態(tài)利用關(guān)系的對(duì)立實(shí)際上是對(duì)信用數(shù)據(jù)主體權(quán)益與GAI研發(fā)者、服務(wù)提供者利益沖突的反映。在人工智能場(chǎng)景下處理信用數(shù)據(jù)應(yīng)當(dāng)堅(jiān)持利益衡量原理的運(yùn)用，其正當(dāng)性類型具體包含法益侵害闕如和保護(hù)優(yōu)越法益原理兩種。

第一，法益侵害闕如原理的適用尊重信用數(shù)據(jù)主體的自主性。即GAI服務(wù)的研發(fā)者與使用者已經(jīng)遵循公開、透明原則合理地履行了信用數(shù)據(jù)的告知義務(wù)，明示了信用數(shù)據(jù)采集的方式、范圍以及可能存在的風(fēng)險(xiǎn)，詳細(xì)說明了數(shù)據(jù)的收集、存儲(chǔ)、使用、加工、傳輸、提供、公開、刪除等具體處理規(guī)則，GAI服務(wù)給予用戶信息選擇權(quán)。比如為防止終端用戶信息的泄露，訊飛公司生產(chǎn)的翻譯機(jī)專門設(shè)計(jì)了離線翻譯版本，用戶在離線狀態(tài)下使用該產(chǎn)品并不會(huì)將信息上傳至網(wǎng)絡(luò)空間；法律可以對(duì)AI制造者進(jìn)行規(guī)制，即凡是能實(shí)現(xiàn)離線使用的產(chǎn)品，制造者應(yīng)當(dāng)保障終端用戶的信息選擇權(quán)而設(shè)計(jì)該替代性程序。

當(dāng)GAI服務(wù)平臺(tái)遵守了《個(gè)人信息保護(hù)法》第十六條“處理者不得以個(gè)人不同意處理其個(gè)人信息或者撤回同意為由，拒絕提供產(chǎn)品或者服務(wù)；處理個(gè)人信息屬于提供產(chǎn)品或者服務(wù)所必需的除外”的規(guī)定為用戶提供了替代性方案、基礎(chǔ)性服務(wù)的情形下，使用者單獨(dú)同意選擇某種服務(wù)時(shí)，依據(jù)同意阻卻之法理，GAI服務(wù)平臺(tái)無需對(duì)信用數(shù)據(jù)風(fēng)險(xiǎn)承擔(dān)責(zé)任。

第二，保護(hù)優(yōu)越法益原理的適用強(qiáng)調(diào)人工智能平臺(tái)的決定權(quán)。即實(shí)施相關(guān)信用數(shù)據(jù)處理行為積極創(chuàng)設(shè)或者消極保護(hù)的利益明顯優(yōu)越于對(duì)數(shù)據(jù)處理所創(chuàng)設(shè)的風(fēng)險(xiǎn)時(shí)，信用主體理應(yīng)忍受必要的風(fēng)險(xiǎn)。

從私法來看，《民法典》一千零三十六條第三款規(guī)定了為維護(hù)公共利益或自然人合法權(quán)益合理實(shí)施信息處理無須承擔(dān)民事責(zé)任。

從專法來看，《個(gè)人信息保護(hù)法》第十三條第四至六項(xiàng)規(guī)定了應(yīng)對(duì)突發(fā)公共衛(wèi)生事件或緊急情況下人身財(cái)產(chǎn)安全、公共利益新聞報(bào)道與輿論監(jiān)督、個(gè)人自行公開或合法公開的情形下無須取得個(gè)人同意。

從域外來看，除了歐盟GDPR第6條（f）規(guī)定了“合法利益”事由外，英國信息專員辦公室（ICO）在《人工智能和數(shù)據(jù)保護(hù)指南》中同樣指出，數(shù)據(jù)處理者可以基于合法利益處理個(gè)人數(shù)據(jù)以開發(fā)和持續(xù)使用 AI，但是處理者必須承擔(dān)額外責(zé)任以保護(hù)個(gè)人權(quán)益，證明數(shù)據(jù)處理的必要性和相稱性。因此，在通用性、實(shí)時(shí)性AI廣泛普及之下，信用數(shù)據(jù)的處理自應(yīng)確保利益衡量原理的適用，并以此構(gòu)建GAI中的信用數(shù)據(jù)應(yīng)用模塊。

（三）實(shí)現(xiàn)多元治理理念的貫徹

互聯(lián)網(wǎng)時(shí)代的重要特點(diǎn)是去中心化，國家與社會(huì)、政府與市民、國家機(jī)構(gòu)與非國家機(jī)構(gòu)之間的關(guān)系轉(zhuǎn)變?yōu)楸馄交⑷ブ行幕男履Ｊ剑煌黧w之間相互依賴、科層較少而漸趨于網(wǎng)絡(luò)體系的綜合治理。

因此，GAI場(chǎng)域下信用數(shù)據(jù)的治理既不能強(qiáng)調(diào)監(jiān)管機(jī)關(guān)的過度“家長(zhǎng)主義式”監(jiān)管，也不能完全依賴于平臺(tái)“自由主義式”自治。因?yàn)椋叨然谋O(jiān)管模式在周延保障信用數(shù)據(jù)安全的同時(shí)也會(huì)導(dǎo)致數(shù)據(jù)流通的低效和GAI應(yīng)用模塊發(fā)展的受阻，而完全的平臺(tái)自治在全面實(shí)現(xiàn)數(shù)據(jù)賦能的同時(shí)也可能誘發(fā)信用主體的權(quán)益風(fēng)險(xiǎn)和GAI的失范危機(jī)。

實(shí)際上，人工智能領(lǐng)域信用數(shù)據(jù)法律保護(hù)問題是技術(shù)與規(guī)范如何統(tǒng)籌協(xié)調(diào)的問題，其問題的本質(zhì)在于如何妥當(dāng)調(diào)和法律規(guī)范穩(wěn)定性、適應(yīng)性間的對(duì)立統(tǒng)一關(guān)系。

應(yīng)當(dāng)認(rèn)為，GAI場(chǎng)域下信用數(shù)據(jù)的治理需要堅(jiān)持多元化的思維理念，尤其是注重將“內(nèi)部管理型規(guī)制”引入人工智能領(lǐng)域。所謂“內(nèi)部管理型規(guī)制”，是指為實(shí)現(xiàn)人工智能技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防控的同頻共振，主張以內(nèi)部管理為源頭治理而以最小成本遏制風(fēng)險(xiǎn)，在內(nèi)部管理無效時(shí)訴諸外部規(guī)制，其呈現(xiàn)“平臺(tái)自律、政府治理、法律規(guī)制”的三種邏輯順位關(guān)系。

具體而言，平臺(tái)自治是目標(biāo)，GAI研發(fā)者與服務(wù)提供者以及關(guān)聯(lián)的行業(yè)自律是實(shí)現(xiàn)GAI技術(shù)創(chuàng)新、AI場(chǎng)景應(yīng)用優(yōu)化的最前端，平臺(tái)內(nèi)部風(fēng)險(xiǎn)的識(shí)別、介入以及制度性保障是信用數(shù)據(jù)安全保護(hù)的第一道屏障。行政監(jiān)管是主體，多元治理并非淡化行政主體的主導(dǎo)地位，而是強(qiáng)調(diào)GAI研發(fā)者、服務(wù)提供者與行政監(jiān)管主體的協(xié)商溝通，對(duì)GAI中信用數(shù)據(jù)流通實(shí)現(xiàn)有形的政府引導(dǎo)與無形的市場(chǎng)調(diào)節(jié)。法律規(guī)制是基礎(chǔ)，旨在將GAI中信用數(shù)據(jù)的流程性、內(nèi)生性風(fēng)險(xiǎn)劃歸至損害賠償抑或制裁預(yù)防中實(shí)現(xiàn)規(guī)制，其處于治理的末端。

總之，應(yīng)將內(nèi)部管理型的多元治理模式納入信用數(shù)據(jù)的治理，培育AI技術(shù)新發(fā)展的同時(shí)細(xì)化信用數(shù)據(jù)在AI場(chǎng)景中的治理規(guī)則，防范信用數(shù)據(jù)全流程性風(fēng)險(xiǎn)。

四、生成式人工智能中信用數(shù)據(jù)的具體保障進(jìn)路

基于前述宏觀治理邏輯的指引，GAI中信用數(shù)據(jù)的具體保障進(jìn)路可以圍繞事前監(jiān)督、事中監(jiān)管以及事后救濟(jì)三個(gè)層面展開具體探討。

（一）信用數(shù)據(jù)的事前監(jiān)督保護(hù)：著力構(gòu)建以效率為導(dǎo)向的管理舉措

事前監(jiān)督能夠大幅降低GAI中信用數(shù)據(jù)治理的成本投入，在規(guī)避信用數(shù)據(jù)風(fēng)險(xiǎn)的同時(shí)實(shí)現(xiàn)經(jīng)濟(jì)效益的穩(wěn)定產(chǎn)出，應(yīng)以效率為導(dǎo)向積極構(gòu)建以下三種具體的管理舉措。

其一，強(qiáng)化推進(jìn)GAI市場(chǎng)評(píng)估和信用數(shù)據(jù)保護(hù)顧問的雙維舉措。就GAI的市場(chǎng)評(píng)估準(zhǔn)入而言，歐盟AIAct第6條以“是否對(duì)自然人的健康、安全或基本權(quán)利造成顯著損害風(fēng)險(xiǎn)”為標(biāo)準(zhǔn)，對(duì)AI系統(tǒng)有高風(fēng)險(xiǎn)、非高風(fēng)險(xiǎn)之分，當(dāng)高風(fēng)險(xiǎn)人工智能系統(tǒng)作為產(chǎn)品的安全部件抑或本身屬于產(chǎn)品時(shí)，其必須接受第三方合格性評(píng)估，并根據(jù)附件所列的歐盟統(tǒng)一立法將該產(chǎn)品投放市場(chǎng)或投入服務(wù)。

而我國《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《暫行辦法》）第十七條僅聚焦于提供輿論屬性、社會(huì)動(dòng)員能力的GAI服務(wù)領(lǐng)域，規(guī)定了AI應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評(píng)估。對(duì)比發(fā)現(xiàn)，歐盟對(duì)GAI的市場(chǎng)準(zhǔn)入制度采取的是風(fēng)險(xiǎn)性標(biāo)準(zhǔn)，而我國采取的則是領(lǐng)域性標(biāo)準(zhǔn)。域外對(duì)GAI市場(chǎng)準(zhǔn)入的范圍明顯寬于我國，未來我國人工智能領(lǐng)域可以借鑒該風(fēng)險(xiǎn)高低標(biāo)準(zhǔn)，將動(dòng)態(tài)的市場(chǎng)準(zhǔn)入和安全評(píng)估推行至對(duì)自然人、法人信用侵犯的信用數(shù)據(jù)治理領(lǐng)域，于事前端防范信用數(shù)據(jù)的違法爬取以及跨境流動(dòng)風(fēng)險(xiǎn)。

同時(shí)，除了《暫行辦法》第八條規(guī)定服務(wù)提供者應(yīng)當(dāng)對(duì)數(shù)據(jù)標(biāo)注人員進(jìn)行培訓(xùn)、監(jiān)督以及指導(dǎo)外，可以借鑒德國《聯(lián)邦數(shù)據(jù)保護(hù)法》第4f條第1款所規(guī)定的“個(gè)人數(shù)據(jù)保護(hù)顧問”制度，將其獨(dú)立作為阻擋層的制度保護(hù)實(shí)現(xiàn)GAI中信用數(shù)據(jù)治理的平臺(tái)自律。個(gè)人數(shù)據(jù)保護(hù)顧問作為公共機(jī)構(gòu)和私法主體書面任命的常設(shè)主體能夠直接閱讀算法而比一般人和行政官員更容易發(fā)現(xiàn)問題，其本身作為企業(yè)員工所形成的信任關(guān)系不僅能夠保護(hù)企業(yè)內(nèi)部的商業(yè)秘密，而且也使得外部的行政部門保持適當(dāng)?shù)闹t抑性，契合內(nèi)部管理型制度原理。

其二，積極落實(shí)GAI提供信用數(shù)據(jù)服務(wù)平臺(tái)的數(shù)字守門人義務(wù)。雖然數(shù)字平臺(tái)在本世紀(jì)初開始涌現(xiàn)，但直到最近它們都一直相對(duì)較少地受到監(jiān)管限制，盡管監(jiān)管機(jī)構(gòu)一直在奮力跟上技術(shù)迭代以及迅速演化的商業(yè)環(huán)境，但強(qiáng)大的網(wǎng)絡(luò)效應(yīng)、數(shù)據(jù)使用的高回報(bào)、低邊際成本、低分銷成本等都使處在核心的數(shù)字平臺(tái)市場(chǎng)易于傾斜。

為避免GAI服務(wù)平臺(tái)經(jīng)營(yíng)者集中、形成數(shù)據(jù)孤島效應(yīng)以及將數(shù)據(jù)流通風(fēng)險(xiǎn)不當(dāng)?shù)剞D(zhuǎn)嫁至服務(wù)使用者身上，有必要落實(shí)和強(qiáng)化GAI中服務(wù)提供平臺(tái)的代理式監(jiān)管義務(wù)。歐盟2022年公布的《數(shù)字市場(chǎng)法案》（Digital Markets Act，以下簡(jiǎn)稱DMA）確立了“守門人”（Gatekeeper）地位，明確規(guī)定禁止守門人使用第三方的終端用戶個(gè)人數(shù)據(jù)以及將不同主體提供的數(shù)據(jù)進(jìn)行合并等義務(wù)，確保了數(shù)字領(lǐng)域市場(chǎng)中“業(yè)務(wù)用戶、終端用戶以及提供核心平臺(tái)服務(wù)提供者”三者間的競(jìng)爭(zhēng)性、公平性以及穩(wěn)定性關(guān)系。

歐盟并非針對(duì)所有數(shù)據(jù)服務(wù)提供者皆加擔(dān)此種義務(wù)，而是對(duì)守門人規(guī)定了“指定條件、狀況審查、名單更新、義務(wù)更新”等限制性條件，比如就指定條件而言，DMA第3條規(guī)定了成為被指定“守門人”需要具備的條件要素：對(duì)內(nèi)部市場(chǎng)有重大影響、提供核心平臺(tái)服務(wù)（比如在線中介服務(wù)、在線搜索引擎、云計(jì)算服務(wù)等）而成為業(yè)務(wù)用戶接觸終端用戶的重要門戶以及在業(yè)務(wù)中（包含在不久的將來）享有穩(wěn)固和持久的地位。我國GAI信用數(shù)據(jù)治理領(lǐng)域可以借鑒此種守門人制度，將部分提供核心平臺(tái)服務(wù)的網(wǎng)絡(luò)數(shù)據(jù)平臺(tái)、金融信用公司等確立為信用數(shù)據(jù)領(lǐng)域的數(shù)字守門人，區(qū)分提供GAI信用數(shù)據(jù)服務(wù)存儲(chǔ)、查詢、公開、刪除等功能的業(yè)務(wù)用戶以及實(shí)際查詢使用的終端用戶，并針對(duì)數(shù)字守門人進(jìn)行兩端信用數(shù)據(jù)訪問、數(shù)據(jù)移植以及數(shù)據(jù)互通制定相應(yīng)的技術(shù)標(biāo)準(zhǔn)。

其三，溝通探索GAI提供信用數(shù)據(jù)服務(wù)平臺(tái)的監(jiān)管沙盒新舉措。監(jiān)管沙盒（Regulatorysandbox）是指，監(jiān)管者與運(yùn)營(yíng)者齊聚一堂，后者開展新興產(chǎn)品、技術(shù)、服務(wù)方面的安全風(fēng)險(xiǎn)實(shí)驗(yàn)，前者則學(xué)習(xí)和理解相關(guān)技術(shù)的特征機(jī)制而獲取法規(guī)起草的專業(yè)知識(shí)，是一種相對(duì)孤立的、循環(huán)的學(xué)習(xí)和實(shí)驗(yàn)環(huán)境，根據(jù)實(shí)驗(yàn)?zāi)康牟煌斜O(jiān)管或政策沙盒、創(chuàng)新沙盒、軟件開發(fā)沙盒和數(shù)據(jù)沙盒四類。

從域外來看，歐盟AIAct不僅明確將AI沙盒視為應(yīng)當(dāng)支持的創(chuàng)新舉措，而且于第58條明確規(guī)定歐盟委員會(huì)應(yīng)以法案形式確定AI沙盒的建立、開發(fā)、實(shí)施、運(yùn)行以及監(jiān)督方式，該法案以規(guī)定監(jiān)管沙盒的參與資格、沙盒計(jì)劃以及退出機(jī)制等為共同原則。從域內(nèi)來看，我國《暫行辦法》第十六條規(guī)定，生成式人工智能服務(wù)的監(jiān)管主體包含了網(wǎng)信辦、發(fā)展改革委、工業(yè)和信息化部、公安部等，各個(gè)主管部門依據(jù)GAI技術(shù)特點(diǎn)、行業(yè)應(yīng)用去完善和創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式。

因此，我國將監(jiān)管沙盒作為GAI中信用數(shù)據(jù)治理的創(chuàng)新舉措具有前置規(guī)范層面的依據(jù)，有助于實(shí)現(xiàn)AI平臺(tái)自治的審慎治理目標(biāo)。當(dāng)然，聚焦于GAI提供信用數(shù)據(jù)領(lǐng)域，運(yùn)營(yíng)平臺(tái)所應(yīng)溝通協(xié)商的監(jiān)管主體除前述第16條規(guī)定的部門外，還應(yīng)尤為重視向中國人民銀行提交監(jiān)管沙盒入駐申請(qǐng)，由其對(duì)運(yùn)營(yíng)者信用數(shù)據(jù)的技術(shù)制度、安全管理、系統(tǒng)開發(fā)、風(fēng)險(xiǎn)防范進(jìn)行齊備性、合規(guī)性以及可操作性審核，以此保障信用數(shù)據(jù)的高效率、低風(fēng)險(xiǎn)流通。

（二）信用數(shù)據(jù)的事中監(jiān)管保護(hù)：積極健全以安全為價(jià)值的審查機(jī)制

對(duì)算法的事中監(jiān)管是GAI中信用數(shù)據(jù)治理的主體部分以及重心所在，應(yīng)當(dāng)在數(shù)據(jù)治理的全生命周期中以安全為價(jià)值有序推動(dòng)如下兩種審查機(jī)制。

其一，切實(shí)履行形式實(shí)質(zhì)并重的平臺(tái)算法審查機(jī)制。

第一，GAI信用數(shù)據(jù)服務(wù)提供者與終端用戶所簽訂的用戶使用協(xié)議、行業(yè)自律標(biāo)準(zhǔn)等“軟法”成為判斷算法透明、算法可知、算法精準(zhǔn)的直接性依據(jù)，其屬于平臺(tái)算法形式審查機(jī)制的對(duì)象。

比如在由GAI提供信用風(fēng)險(xiǎn)評(píng)估服務(wù)而訂立用戶使用協(xié)議時(shí)，為避免算法運(yùn)營(yíng)商以故弄玄虛的話術(shù)搪塞算法披露或歧視，應(yīng)當(dāng)樹立以效果為導(dǎo)向的算法披露理念而確保非專業(yè)人士能夠知悉該智能預(yù)測(cè)的邏輯與過程，其包括但不限于公開算法設(shè)計(jì)方式、數(shù)學(xué)模型及源代碼、如何使用預(yù)測(cè)變量評(píng)估信用這一目標(biāo)變量、算法優(yōu)劣等。

又如，我國金融領(lǐng)域的行業(yè)標(biāo)準(zhǔn)《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》（JR/T0221—2021）于5.1部分指出，金融行業(yè)應(yīng)用AI算法安全性評(píng)價(jià)主要是從目標(biāo)函數(shù)安全性、算法攻擊防范能力、算法依賴庫安全性、算法可追溯性、算法內(nèi)控等方面提出了基本要求、評(píng)價(jià)方法與判定準(zhǔn)則等。此類“軟法”除應(yīng)符合前述相應(yīng)的技術(shù)設(shè)計(jì)目的需要外，還應(yīng)嵌入倫理規(guī)范、行業(yè)習(xí)慣以及廣義上的公序良俗、誠實(shí)信用等目的理性檢驗(yàn)要素，其共同構(gòu)成形式審查機(jī)制的基礎(chǔ)標(biāo)準(zhǔn)而對(duì)算法偏見、算法歧視問題予以初篩。

第二，應(yīng)當(dāng)訴諸高位階規(guī)范擴(kuò)大GAI場(chǎng)域下信用數(shù)據(jù)主體享有的算法解釋權(quán)范圍，通過對(duì)該解釋權(quán)的法定化建構(gòu)平臺(tái)算法的實(shí)質(zhì)審查機(jī)制。我國既有規(guī)范對(duì)信用數(shù)據(jù)服務(wù)提供者加擔(dān)算法解釋義務(wù)依然是條件式、鼓勵(lì)性以及局域性的，比如《暫行辦法》第十九條規(guī)定僅在配合主管部門監(jiān)督檢查的場(chǎng)景下GAI提供者才應(yīng)按要求對(duì)算法機(jī)制予以說明；又如，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十二條規(guī)定鼓勵(lì)算法推薦服務(wù)提供者優(yōu)化檢索、排序、選擇、推送等規(guī)則的透明度和可解釋性；再如，最高法《關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見》第六條規(guī)定，保障AI系統(tǒng)中的司法數(shù)據(jù)采集管理模式、法律語義認(rèn)知過程等各個(gè)環(huán)節(jié)能夠以可解釋、可測(cè)試、可驗(yàn)證的方式接受相關(guān)責(zé)任主體的審查、評(píng)估和備案。

然而，在包含自動(dòng)化決策合同場(chǎng)景下，自動(dòng)化決策者與相對(duì)人之間的民事主體關(guān)系已然從平等關(guān)系過渡為權(quán)力支配關(guān)系，創(chuàng)制算法解釋權(quán)的目的便旨在調(diào)整平衡前述地位關(guān)系，為相對(duì)方提供額外制度救濟(jì)以實(shí)現(xiàn)實(shí)質(zhì)平等。此種算法解釋權(quán)的內(nèi)容涵攝信用數(shù)據(jù)處理行為、利弊結(jié)果、因果關(guān)系與責(zé)任歸屬、安全保障等，將其法定化能夠?qū)⑺惴ā皺?quán)力—支配”關(guān)系調(diào)整為算法“權(quán)利—義務(wù)”關(guān)系，其為判斷研發(fā)者、提供者成立不作為犯罪的作為義務(wù)來源、過失犯中注意義務(wù)的違反等提供規(guī)范指引。

其二，嚴(yán)格執(zhí)行信用數(shù)據(jù)分類分級(jí)的安全審查機(jī)制。GAI場(chǎng)域下信用數(shù)據(jù)全鏈?zhǔn)教幚戆俗⑨尅?biāo)注、清洗、脫敏、更新、充實(shí)和聚合等步驟，而前述“技術(shù)信用、經(jīng)濟(jì)信用以及社會(huì)信用”的三種類型僅僅是信用數(shù)據(jù)內(nèi)涵層面的大類劃分，其無法與數(shù)據(jù)處理的審查程序、違法后果相勾連，有必要探索新的審查識(shí)別機(jī)制。

2021年《數(shù)據(jù)安全法》第二十一條規(guī)定“國家建立數(shù)據(jù)分類分級(jí)保護(hù)制度”并強(qiáng)調(diào)對(duì)“重要數(shù)據(jù)、核心數(shù)據(jù)”的安全保護(hù)，其確立了數(shù)據(jù)分類分級(jí)的基本原則而自然得以作為信用數(shù)據(jù)的審查識(shí)別機(jī)制存在。同時(shí)，2021年《網(wǎng)安指南》4.2按照《數(shù)據(jù)安全法》第二十一條規(guī)定進(jìn)一步拓展了該數(shù)據(jù)分類分級(jí)框架，依據(jù)“遭到篡改、破壞、泄露或者非法獲取、非法利用，對(duì)國家安全、公共利益或者個(gè)人、組織合法權(quán)益造成的危害程度”，將數(shù)據(jù)從低到高分成“一般數(shù)據(jù)、重要數(shù)據(jù)、核心數(shù)據(jù)”。

然而，2022年《中共中央國務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》（以下簡(jiǎn)稱《數(shù)據(jù)二十條》）“第二部分第（三）項(xiàng)”對(duì)數(shù)據(jù)產(chǎn)權(quán)的分類分級(jí)確權(quán)授權(quán)是圍繞“公共數(shù)據(jù)、企業(yè)數(shù)據(jù)、個(gè)人數(shù)據(jù)”三種建立的。此時(shí)，存在依照“等級(jí)不同”和“主體不同”劃分的兩套數(shù)據(jù)分類分級(jí)標(biāo)準(zhǔn)而理應(yīng)確定契合GAI場(chǎng)域下信用數(shù)據(jù)治理的區(qū)分標(biāo)準(zhǔn)。毋庸諱言，應(yīng)當(dāng)采取依照“等級(jí)不同”區(qū)分的標(biāo)準(zhǔn)而將信用數(shù)據(jù)相應(yīng)地劃分為“一般信用數(shù)據(jù)、重要信用數(shù)據(jù)、核心信用數(shù)據(jù)”三類，以此開展信用數(shù)據(jù)的安全審查和識(shí)別保護(hù)機(jī)制。

理由在于，第一，從效力等級(jí)上看，“等級(jí)不同”的分類標(biāo)準(zhǔn)有利于保證信用數(shù)據(jù)治理的穩(wěn)定性。《數(shù)據(jù)二十條》作為政策性規(guī)范，其效力較低而富于變動(dòng)性；相反，《數(shù)據(jù)安全法》作為專門性法律具有高位階、穩(wěn)定性，能夠?qū)崿F(xiàn)GAI場(chǎng)域下信用數(shù)據(jù)治理的連貫性。第二，從既有規(guī)范中看，《評(píng)估辦法》和《流動(dòng)規(guī)定》的第二條在數(shù)據(jù)跨境安全和自由流動(dòng)方面、《網(wǎng)安條例》第四章在網(wǎng)絡(luò)數(shù)據(jù)處理和數(shù)據(jù)安全方面皆明確使用了“重要數(shù)據(jù)”概念。因此，采取依照“等級(jí)不同”區(qū)分的標(biāo)準(zhǔn)有利于實(shí)現(xiàn)域內(nèi)信用數(shù)據(jù)安全保護(hù)、域外信用數(shù)據(jù)跨境流動(dòng)治理的銜接性。

（三）信用數(shù)據(jù)的事后救濟(jì)保護(hù)：注重實(shí)現(xiàn)以公平為目標(biāo)的責(zé)任分配

事后救濟(jì)是GAI中信用數(shù)據(jù)治理的末端與最后保護(hù)的屏障，應(yīng)當(dāng)以公平為目標(biāo)通過賠價(jià)（補(bǔ)償、賠償）和非難（報(bào)應(yīng)、懲罰）實(shí)現(xiàn)風(fēng)險(xiǎn)結(jié)果的合理劃歸。

其一，作為GAI中信用數(shù)據(jù)損害責(zé)任分配的前提問題，應(yīng)當(dāng)堅(jiān)持人工智能責(zé)任主體（能力）否定論。在前置法領(lǐng)域，責(zé)任的本質(zhì)是應(yīng)答，即行為人對(duì)自己行為的自我答責(zé)而以自由意志和自我決定為前提，AI因?yàn)椴痪哂星笆鲆庵九c決定而無法對(duì)自己行為予以應(yīng)答，其只對(duì)人類輸入的指令有算法反應(yīng)，對(duì)于自身所造成的侵權(quán)或損害責(zé)任不具有認(rèn)識(shí)而勿論反應(yīng)一說。在刑法領(lǐng)域，非難的前提系以辨認(rèn)和控制能力組成的責(zé)任能力為基礎(chǔ)，其性質(zhì)可分為“犯罪能力說”與“刑罰適應(yīng)能力說”，AI明顯既不具備有責(zé)行為能力、意思能力，抑或犯罪能力，同時(shí)也不可能享有被科處刑罰的資格。有鑒于此，GAI場(chǎng)域下信用數(shù)據(jù)的風(fēng)險(xiǎn)治理問題不應(yīng)聚焦于人工智能本身的能否答責(zé)性問題上，探究信用數(shù)據(jù)的現(xiàn)實(shí)化危險(xiǎn)應(yīng)當(dāng)如何實(shí)現(xiàn)結(jié)果歸屬公平性、責(zé)任承擔(dān)終局性的歸責(zé)機(jī)制問題成為邏輯之使然。

其二，應(yīng)當(dāng)注重GAI場(chǎng)域下信用數(shù)據(jù)處理現(xiàn)實(shí)化危險(xiǎn)結(jié)果中的結(jié)果歸屬與責(zé)任承擔(dān)判斷。在典型的GAI提供信用數(shù)據(jù)服務(wù)領(lǐng)域，存在GAI研發(fā)者、服務(wù)提供者以及終端用戶使用者三方主體，對(duì)于侵害用戶信用數(shù)據(jù)的法益侵害后果并非斷然歸屬于研發(fā)者抑或提供者，其主要包括如下類型。

第一，僅由研發(fā)者對(duì)損害結(jié)果負(fù)責(zé)的情形。比如在GAI信用數(shù)據(jù)服務(wù)研發(fā)階段采用了監(jiān)管沙盒模式，研發(fā)者通過隱瞞處理信用數(shù)據(jù)的算法缺陷、算法漏洞或者偽造沙盒計(jì)劃、研發(fā)報(bào)告等欺詐手段通過了沙盒監(jiān)管主體的監(jiān)管抑或風(fēng)險(xiǎn)測(cè)評(píng)而實(shí)現(xiàn)GAI投入運(yùn)行，此時(shí)提供者提供信用數(shù)據(jù)服務(wù)所造成的用戶損害結(jié)果應(yīng)當(dāng)單獨(dú)歸屬于研發(fā)者本身，其類似于間接正犯的構(gòu)造（即研發(fā)者利用了無責(zé)任能力提供者的行為），而應(yīng)當(dāng)將被利用者行為造成的結(jié)果歸屬于利用者本身。

第二，僅由提供者對(duì)損害結(jié)果負(fù)責(zé)的情形。信用數(shù)據(jù)事實(shí)上存在類似于前述依照“等級(jí)不同”區(qū)分的“一般信用數(shù)據(jù)、重要信用數(shù)據(jù)、核心信用數(shù)據(jù)”的劃分，提供者對(duì)經(jīng)由分類分級(jí)的信用數(shù)據(jù)處理存在注意義務(wù)（安全保障義務(wù)）的程度高低問題。如果因?yàn)榉?wù)提供者未盡到合理的注意義務(wù)而錯(cuò)誤設(shè)置算法導(dǎo)致運(yùn)行失誤，那么其應(yīng)當(dāng)承擔(dān)刑事責(zé)任；如若平臺(tái)在設(shè)計(jì)伊始便合理設(shè)置算法邏輯、預(yù)測(cè)安全風(fēng)險(xiǎn)、將數(shù)據(jù)的保護(hù)需求嵌入算法以及合理展開全流程合規(guī)監(jiān)管，那么算法生成錯(cuò)誤結(jié)論就超出了平臺(tái)的期待可能性。

第三，僅由使用者對(duì)損害結(jié)果自我答責(zé)的情形。當(dāng)提供者已明確告知使用者信用數(shù)據(jù)服務(wù)的禁止性條款，使用者依然利用信息系統(tǒng)漏洞、基于不法使用目的抑或通過刪除、干擾以及修改等方式破壞GAI系統(tǒng)功能進(jìn)而導(dǎo)致信用數(shù)據(jù)泄露的，其因介入了明顯異常的被害人自身行為因素而切斷服務(wù)提供者、研發(fā)者對(duì)損害結(jié)果的因果力。

五、結(jié)語

伴隨著大數(shù)據(jù)、云計(jì)算、人工智能等高新技術(shù)的快速發(fā)展，傳統(tǒng)存在于“熟人間”的倫理信用、道德信用以及自然信用轉(zhuǎn)變?yōu)榱恕吧鐣?huì)中”的技術(shù)信用、法律信用以及經(jīng)濟(jì)信用。通過數(shù)據(jù)這一有形載體，具有社會(huì)經(jīng)濟(jì)價(jià)值的信用開始具備識(shí)別性、無限復(fù)制性、非消耗性的新表現(xiàn)形式。眾所周知，GAI具有顯著放大信用數(shù)據(jù)效益與引發(fā)信用數(shù)據(jù)風(fēng)險(xiǎn)的優(yōu)劣秉性，因而GAI場(chǎng)域下信用數(shù)據(jù)的法律治理既應(yīng)注重AI技術(shù)迭代更新與異化風(fēng)險(xiǎn)的問題，同時(shí)也應(yīng)當(dāng)關(guān)注信用數(shù)據(jù)區(qū)別于名譽(yù)數(shù)據(jù)、隱私數(shù)據(jù)等數(shù)據(jù)的特有屬性。當(dāng)前，GAI正由“人—人”交互的現(xiàn)實(shí)空間朝著“人—機(jī)”交互的虛擬空間迅速發(fā)展，信用數(shù)據(jù)治理的邏輯與進(jìn)路需要進(jìn)行相應(yīng)地動(dòng)態(tài)調(diào)整，通過規(guī)范與技術(shù)的融合實(shí)現(xiàn)科技向善而止于“智”善的遠(yuǎn)景目標(biāo)。

源點(diǎn)注：本文作者劉浩（清華大學(xué) 法學(xué)院）

?
?

【案例匯編】

【專家觀點(diǎn)】

● ● ● ● ●

【信用案例】

【工作進(jìn)展】

【值得收藏】

編輯：源源

校稿：昊宇

來源：源點(diǎn)credit