今天，人工智能的發展如同一輛高速行駛的列車，在為人類社會帶來前所未有的變革與便利的同時，也因種種失控的應用場景而頻繁亮起“紅燈”。

圖片來源：攝圖網

發明后空翻的是“后空翻”？

近期，谷歌AI概覽功能深陷信任危機的泥沼。據12月16日福布斯中國的報道，當用戶在其搜索引擎中輸入“后空翻是誰發明的”時，谷歌的GeminiAI竟給出了“約翰?后空翻”在1316年中世紀歐洲首次完成該動作的詳細介紹，且在進一步搜索“約翰?后空翻是誰”時，依然堅稱他是發明者。

令人啼笑皆非的是，這一所謂的“歷史事實”實則源于美國體操運動員伊恩?岡瑟在TikTok上發布的一條惡搞視頻，整個故事純屬其虛構創作。岡瑟在接受《福布斯》采訪時坦言，自己熱衷于制作體操相關的惡搞視頻，旨在以幽默詼諧的方式調侃這項運動，且從未料到會引發如此軒然大波。這條視頻原本在網絡上反響平平，險些被他遺忘，直至2023年7月收到關于AI概覽截圖的短信，才驚覺自己的玩笑之作被AI當作了真實信息源，進而在網絡世界廣泛傳播，甚至引得詞典出版商韋氏專門發推澄清事實。盡管谷歌隨后將關于“后空翻發明者”的AI概覽標記為網梗，但仍一字不差地復述著岡瑟視頻中的虛假內容。

谷歌副總裁莉茲?里德曾在5月的博客文章中將此類奇怪搜索結果歸咎于“數據空白”，即搜索主題相關優質內容匱乏或僅有惡搞內容時，AI概覽容易誤讀網頁語言，從而呈現出不準確信息。為此，谷歌已在AI概覽中引入新的安全措施，試圖識別用戶查詢是否為搞怪意圖，并減少對幽默內容和用戶生成建議的參考，尤其是在新聞和健康等關鍵話題領域，同時還在AI給出的摘要后補充了“生成式AI仍處于試驗階段”的警示標簽。

圖片來源：攝圖網

“張文宏”深夜賣藥？

在國內的社交網絡平臺微信上，一場由AI引發的侵權與欺詐風暴正肆虐橫行?！拔⑿派汉靼踩卑l布的官方公告顯示，近期已處置相關違規內容多達532條，關閉違規賬號達209個。然而，這僅僅是龐大冰山露出水面的一角。眾多不法分子受利益驅使，巧妙利用AI技術的高度隱蔽性和迷惑性，變本加厲地仿冒各類名人，大肆進行不當營銷活動，惡意追逐流量。

其中，張文宏醫生“被AI帶貨”事件引發了社會各界的廣泛關注與強烈反響。據澎湃新聞報道，許多網友反映家中老人在瀏覽網絡賣貨視頻時，看到“張文宏醫生”推薦一款蛋白類產品，因其形象逼真、聲音相似，老人們基于對張文宏醫生在醫學領域極高權威性和廣泛公信力的信任，紛紛下單購買并轉發。但經核實，視頻中的“張文宏醫生”全系AI技術合成的虛假形象。

張文宏醫生本人也表示，此類仿冒賬號層出不窮且頻繁變換馬甲，他雖多次向平臺投訴，但均收效甚微。涉事賬號“般畫234”的商品已售出1200余件。

如今，語音合成與視頻生成技術的成熟，使得不法分子僅需一張照片或一段音頻，便可炮制出足以以假亂真的視頻內容。對于眾多對AI技術缺乏深入了解的普通消費者，尤其是老年人群體而言，幾乎難以辨別這些虛假信息的真偽，極易在不知不覺中上當受騙，不僅遭受經濟上的直接損失，還可能因誤信虛假醫療產品推薦而延誤自身疾病的正常治療，從而承受情感上的傷害與困擾。

圖片來源：攝圖網

每天有3000個AI“詐騙犯”？

今年一月，最高人民檢察院發文稱，每天在線運行3000余臺“AI”語音機器人為境外詐騙團伙提供服務，擁有的境外“客戶”微信群、QQ群就高達100余個。不法分子利用AI技術模仿公司老板聲音，致電財務人員以項目需資金周轉為由騙其轉賬或模仿子女聲音向年邁父母哭訴遭遇意外事故索要錢款，這些案例屢見不鮮。

為了有效規范AI技術的合理應用，我國近年來已相繼出臺了一系列法律法規。早在2017年，《國務院關于印發新一代人工智能發展規劃的通知》就提出人工智能立法“三步走”戰略目標，其核心要義是建構完善的“人工智能法律體系”。緊接著，2022年11月，國家網信辦、工信部、公安部聯合頒布的《互聯網信息服務深度合成管理規定》。該規定明確了深度合成技術的使用規范，嚴禁利用深度合成服務侵犯他人合法權益，并對相關主體的責任和義務進行了詳細而明確的界定。隨后，國務院2023年度和2024年度“立法工作計劃”均將“人工智能法草案”列入預備提請全國人大常委會審議草案的范圍。

然而，在實際執行過程中，這些規定面臨諸多挑戰。相關行政部門、地方政府、司法機關雖在努力應對AI應用中出現的問題，但分散式、漸進式的規則演進難以滿足行業發展對確定性規則的需求。例如，在訓練數據使用作品是否構成侵害著作權、人工智能產業鏈上各主體的相關法律責任認定標準、人工智能生成合成內容標識的標準和落地等問題上，仍缺乏明確的法律指引，導致行業發展存在諸多不確定性。

圖片來源：攝圖網

慢半拍的監管

在學術界，對于人工智能立法也存在著不同的觀點和討論。

2024年12月9日烏審旗人民法院發文針對有關AI立法進行討論，清華大學智能法治研究院院長申衛星認為人工智能立法時機已經成熟。

他表示，從必要性來看，人工智能產業的國際化貿易需要我國通過立法構建公平、互信的法治保障。隨著聯合國等國際組織圍繞人工智能治理出臺一系列文件，以及中國、歐洲、美國在對外經貿合作中對人工智能治理合作的重視，都凸顯了通過具有強制約束力的制度確保人工智能產品安全可靠、避免濫用的重要性。

從可行性而言，國內外人工智能立法經驗儲備充分，制度需求逐漸明確。近年來出臺的一系列政策法規已形成算法透明度、高風險產品備案、風險監測、用戶權益保護、訓練數據合規、算力設施共享、高價值數據資源供給等典型制度，為人工智能立法奠定了基礎。同時，自動駕駛、健康醫療等產業領域亟需人工智能規則為產品上市提供合法性基礎，這也推動了人工智能立法的進程。

西南政法大學人工智能法學院院長陳亮則認為制定“完備”的人工智能法律體系尚需時日。所謂“完備”，要求人工智能法達到“對象明確、范圍清晰、理論自足、邏輯自洽、體系完整”等基本要求，以便為執法、司法和守法提供清晰指引。

但目前學界對人工智能法的調整對象、適用范圍、理念欲求、基本原則、主要制度與立法技術等重大理論和實踐問題尚未達成共識。因此，建議借鑒我國民法典的成功經驗，先推出人工智能單行法，成熟一部推出一部，最后化零為整，制定完備的人工智能法。

圖片來源：攝圖網

現今，AI 侵權與欺詐如同陰霾般籠罩著我們的生活，在這重重迷霧之中，普通人雖對諸多理論上的維權途徑有所耳聞，但實際操作起來，卻仿若深陷泥沼，困難重重。技術鑒定的復雜性、證據固定的艱難性以及責任追溯的曲折性，皆如一道道高墻，橫亙在權益維護之路上。

那么，在現有的技術與法律框架之下，普通人究竟該如何沖破藩籬，及時且有效地跨越這些障礙，達成對自身權益的切實維護呢？