2022年11月30日，美國人工智能研究實驗室OpenAI推出一款聊天機器人程序——ChatGPT。作為人工智能技術驅動的自然語言處理工具，ChatGPT會通過連接大量包含真實世界對話的語料庫來訓練模型，從而獲得語言理解和文本生成能力。因此，ChatGPT上知天文下知地理，還能根據聊天的上下文進行互動，做到與真正人類幾乎無異的聊天交流。此外，ChatGPT還能進行撰寫郵件、視頻腳本、文案、翻譯、代碼等任務。這無疑是AI技術發展領域一個引人注目的新成就。然而，隨著ChatGPT的廣泛應用，其捏造知名人物虛假信息、泄露用戶聊天內容、回答問題不切實際等負面新聞也隨之而來。那么，ChatGPT時代來臨，給我們帶來的究竟是機遇還是風險，我們又該如何妥善應對？

一、ChatGPT帶來的道德與法律風險

(一）虛假信息頻出

近日，喬治·華盛頓大學法學教授喬納森·特利近日被ChatGPT列入“性騷擾”名單，聲稱他在一次去阿拉斯加的旅行中對學生“動手動腳”，并援引了一篇所謂《華盛頓郵報》的新聞報道作為信息來源。然而經事后查證，這則消息完全是子虛烏有。[1] 類似的事件此前在澳大利亞也曾發生。據報道，ChatGPT的AI 聊天機器人將Brian Hood 錯誤地定義為“已定罪的罪犯”，參與了澳大利亞儲備銀行 (RBA) 過去“非常真實的賄賂丑聞”。2011 年，RBA 子公司 Note Printing Australia 的官員因串謀賄賂外國政府官員而被判有罪。事實上，Brian Hood在這起案件中扮演的角色絕非ChatGPT聲稱的罪犯，而是揭露不正當行為的英雄。[2]

除了上述引發廣泛關注的事件外，在日常生活中，即使我們搜索一些周知的問題，ChatGPT也可能會給出錯誤的答案。隨著質疑和追問的深入，它甚至會隨意更改答案，推翻先前的表述。與此同時，措辭能力的不斷提高，使得ChatGPT的言論看起來十分可信，一不留神就會被它“帶到溝里”。因此，AI機器人捕風捉影、偽造內容，抑或不加甄別地提供信息，不僅嚴重損害個人名譽、對未成年人的教育造成不良影響，還有可能會降低民眾對政府的信任度、破壞新聞等可靠信息源，最終影響國家安全與社會穩定。

（二）個人隱私和商業機密泄露

今年3月，有海外網民在于ChatGPT聊天的過程中發現了“不屬于他們自己的ChatGPT對話記錄”，并將相關截圖發布在Reddit和推特等社交媒體平臺上。隨后，ChatGPT的開發公司OpenAI創始人山姆·阿爾特曼在推特發文承認了這一點，聲稱該AI的一個故障讓一些用戶能夠看到其他用戶對話歷史記錄的標題，并表示“對此感到很難過”。雖然該故障已經修復，但依然引發民眾對AI泄露個人隱私的擔憂：是否還有更多我們尚未發覺的bug潛藏在其中？[3]

除個人隱私風險外，公司泄密危機同樣值得關注。AI機器人很有可能將用戶輸入的敏感數據轉化為輸出的內容，造成數據泄漏?；诖耍绹y行、花旗集團、德意志銀行、高盛集團、富國銀行、摩根大通和Verizon等機構已經禁止員工使用ChatGPT聊天機器人處理工作任務。同樣，微軟的工程師和亞馬遜的律師都曾警告員工，不要與ChatGPT分享“任何亞馬遜的機密信息，包括你正在編寫的代碼，因為他們可能會將其用于訓練未來的模型?！?/p>

隨著AI算法檢索與抓取信息的能力不斷增強，各類主體的隱私和機密都可以更容易地暴露在公共環境中。ChatGPT無法對是否屬于隱私或機密內容以及內容真偽進行甄別，對于用戶輸入的信息與數據，也同樣未公示其處理路徑，是否全部刪除、如何刪除以及是否存儲部分數據加以利用，公眾都無從知曉。

（三）剽竊和學術不端行為滋生

ChatGPT走紅后，AI是否可以作為著作權人、其創作是否可以成為“作品”等問題再次引發熱議。國內外立法普遍認為，著作權人僅限于自然人和法人，不包含其他類型主體。原因主要在于，AI輸出的內容是基于人預先設定好的程序、算法的結果，并非自主意識創作。因此，它在本質上依然是人類使用的“創作工具”。同樣地，ChatGPT的技術原理是依靠從訓練數據中學到的模式和關系，來生成風格和內容與訓練數據中的文本相似的新文本。[4]

然而，我們不得不承認的是，ChatGPT經過一系列復雜的程序運作后所生成的內容，確實具備一定的獨創性，在現有作品庫中往往難以找到雷同文本。根據這個特征，許多人通過輸入不同關鍵詞或其他指令，生成各類具有原創性外觀的文章，謊稱是自己的創作成果，用于營利或其他目的，肆意違反學術道德。不僅如此，如果在科學研究中使用人工智能生成的內容，還可能存在算法偏見、虛假敘述等一系列倫理風險。

二、ChatGPT風險的法治應對

（一）明晰責任主體

ChatGPT是否應當為其提供虛假信息、侵犯他人名譽權、隱私權等行為承擔責任，是我們首先應當明確的問題。只有確認其作為適格責任主體的身份，才能進一步追究責任，法律對AI技術對規制才能更加有效。AI是如何識別數據并進行判斷進而作出某種決策的，這是決定人工智能能否對自己的行為承擔法律責任的實質性理由。然而，它是否以及如何能夠自主識別、自動判斷、自主行動以及自主創作，目前依然是無法被理解的。

因此，我們的當務之急在于促進AI運行機制的進一步透明化、可解釋化。2021年9月25日，我國國家新一代人工智能治理專業委員會發布的《新一代人工智能倫理規范》第12條規定，要在算法設計、實現、應用等環節，提升透明性、可解釋性、可理解性。專業機構和人員不應當僅僅著眼于推動AI的不斷智能化，同時應當注重對算法全過程、各環節的研究和解釋工作，譬如輸入內容的處理、輸出內容的依據、信息抓取與改造的邏輯等方面。人工智能的行為和決策的空間越大，需要解釋的空間就越大。如同在人類世界一樣，只有做出明晰的解釋，了解人工智能如何思考、反應，我們才能有章可循，精準分配責任。[5]

（二）有效運用法律規制

在人工智能領域，我國已經頒布了一系列法律法規加以規制，如《網絡安全法》《數據安全法》《網絡信息內容生態治理規定》等，《生成式人工智能服務管理辦法》也在征求意見之中。這些規定在一定程度上明確了人工智能的基本道德要求和應用原則，能夠有效約束算法技術濫用可能導致的安全風險。此外，上述專門領域立法還與《民法典》《個人信息保護法》等法律規定相結合，全方位保障用戶的個人權益。因此，我國可以充分利用現有法律制度，加強對ChatGPT相關產業的規制，并根據產業發展狀況，適時推出新的立法。

有了法律文本做依托后，對于法律責任的具體承擔方式，有學者指出，應當視情況分析。如果用戶故意輸入指令讓人工智能編造謠言，此時AI聊天機器人充當的是工具角色，應由用戶承擔法律責任。若用戶沒有主觀故意，虛假信息內容由人工智能算法自行生成，可以推定人工智能對編造、傳播謠言起到了實質性的幫助作用，因此相應的用戶與AI運營公司承擔連帶責任。運營平臺承擔責任大小，應綜合考慮是否盡到注意義務、侵權范圍、損害程度以及平臺避免損失擴大的能力等因素。[1]

（三）強化科技倫理審查

如果法律是維護網絡安全兜底性的后置措施，那么科技倫理審查是AI研發過程中不可或缺的前置環節。從事人工智能等科技活動的單位，凡研究內容涉及科技倫理敏感領域的，均應設立科技倫理委員會。安全性是當下人工智能領域的短板，更應當成為未來的重要發展方向。

近期，科技部會同相關部門研究起草了《科技倫理審查辦法（試行）》，正面向社會公開征求意見。《科技倫理審查辦法（試行）》是覆蓋各領域科技倫理審查的綜合性、通用性規定。在總則部分規定了審查范圍，并開宗明義地提出了提出了科學、獨立、公正、透明的審查原則和要求。隨后，對審查主體、審查程序、監督管理等方面進行了詳細規范。其內容的制定充分遵循科技創新規律，在立足實際的同時廣泛借鑒，并且堅持問題導向、有的放矢地提出措施。此外，它也能夠與《科技進步法》《個人信息保護法》《數據安全法》等多項法規制度相銜接，防范科技創新風險，保護民眾權益。[6]《科技倫理審查辦法》的出臺，無疑是對科技創新過程中暴露出的諸多問題的有力回應，使得企業的倫理審查工作有章可循，也讓民眾更放心地接納科技進步帶來的成果。

（四）監管企業研發活動

由于研發企業的趨利性特征，除內部審查外，加強外部監管也十分重要。首先，政府應當規制ChatGPT的應用范圍與標準，規定禁用領域，以防止泄密或其他風險，并且制定一定的標準，依循其對各項性能指標進行評估，達標后方可投入市場使用。此外，政府牽頭成立外部審查機構也非常必要，此類機構應包含各領域專家，依據現有法律法規對AI產品的技術內容和倫理內容進行全方位審核，以防范安全風險，保障民眾權益。最后，政府應當對ChatGPT等AI技術的違規行為采取處罰措施，以警示研發企業：遵循公共道德倫理是提升技術的首要前提，技術的進步最終是為了增進全人類福祉。

參考資料

[1] 鐘雨欣：，載微信公眾號“ 21世紀經濟報道”，2023年4月9日。

[2]Lauren：，載微信公眾號“ Tech商業”，2023年4月6日。

[3]嚴梓瑄、郭美婷：，載微信公眾號“ 21世紀經濟報道”，2023年4月3日。

[4]萬 勇：《ChatGPT引發著作權問題新思考》，載《法治日報》2023年2月15日。

[5]劉艷紅：《人工智能的可解釋性與AI的法律責任問題研究》，載《法制與社會發展》2022年第1期。

[6]科學技術部科技監督與誠信建設司：《科技倫理審查辦法（試行）（征求意見稿）》，載科技部官網2023年4月4日，https://www.most.gov.cn/wsdc/202304/t20230404_185388.html。

文 |聶思琪

編輯 | 聶思琪

轉載請注明來源，并保持內容完整

--熱點速遞與解讀--