去年國慶期間，一則“AI雷軍罵人8天”的惡搞視頻引發熱議。小米創始人雷軍在今年兩會期間公開回應此事，直言維權時面臨法律空白，損失難以量化。這一事件不僅暴露了AI技術濫用對個人名譽權的沖擊，更凸顯了現行法律在應對新型侵權問題上的滯后性。本文將通過探討當前AI換臉技術所引發的一些最常見糾紛，為大家解析哪些行為可能會觸犯法律紅線。

3月8日下午，十四屆全國人大三次會議舉行代表小組會議，審議全國人大常委會工作報告。雷軍：建議加強“AI換臉擬聲”違法侵權重災區治理，針對“AI換臉擬聲”等某一代表性問題，探索推出人工智能單行法，提高立法位階及其效力、分級分類的基礎上進行務實治理，明確“AI換臉擬聲”應用邊界紅線。

1. 肖像權侵害：AI換臉技術最直接的問題就是未經同意使用他人肖像。

根據《中華人民共和國民法典》第一千零一十九條之規定，任何組織或者個人未經肖像權人同意，不得制作、使用、公開肖像權人的肖像。在司法實踐中，未經許可將他人肖像用于商業推廣的行為構成對肖像權的侵害，權利人可依據《民法典》第一千一百八十二條主張損害賠償，并有權要求侵權人承擔停止侵害、消除影響及賠禮道歉等民事責任。相關司法裁判表明，此類侵權行為除需承擔實際經濟損失賠償外，還應承擔權利人因維權產生的合理費用。

2. 名譽權侵害：通過AI換臉技術偽造虛假視頻或圖片，用來誹謗或侮辱他人的情況也在增加。

如果這些內容傳播開來，會導致被“換臉”者的社會評價受損，進而侵犯其名譽權。通過深度偽造技術將他人肖像移植至特定場景，使公眾產生錯誤認知并導致社會評價降低的，構成對肖像權、名譽權的雙重侵害。

3. 隱私與數據安全問題：AI換臉需要用戶上傳面部照片等敏感信息，如果平臺的數據保護措施不到位，這些信息就有可能泄露出去，給用戶帶來隱私安全隱患。一旦個人信息被非法獲取，不法分子可能會利用這些信息進行詐騙或其他違法活動。

4.知識產權爭議：AI生成物的版權歸屬難題 若用戶通過調整AI參數生成具有獨創性的內容（如設計圖片），可能享有著作權；但若AI模型訓練數據涉及他人作品，則生成物可能構成侵權。此外，未經授權替換影視作品主角或篡改原作品內容，亦可能侵犯原著作權人的改編權或保護作品完整權。

從法律專業角度出發，以下幾種行為明確觸及了法律紅線：

未經授權的商業使用：任何以營利為目的，未經授權而使用他人肖像的行為都是違法的。根據《民法典》第1019條的規定，未經肖像權人同意，不得制作、使用、公開肖像權人的肖像。

制作、傳播虛假信息：故意制造并傳播虛假信息，尤其是那些能夠損害他人名譽的信息，是違法行為。如田女士發現某App未經其同意使用了她發布的古裝視頻作為模板，并允許用戶付費替換面部特征，這種行為最終被法院認定為侵犯了田女士的肖像權。

利用AI換臉技術實施犯罪：如詐騙、敲詐勒索等行為，這些都是嚴重的違法犯罪行為，會受到嚴厲的法律制裁。

詐騙罪：江蘇張女士因“AI靳東直播賣理財”被騙68萬元，此類案件頻發，不法分子利用公眾對明星的信任實施詐騙，造成嚴重的社會影響。

傳播淫穢物品罪：不法分子將換臉技術應用于色情視頻合成，形成“數據采集—模型訓練—成品傳播”的黑產鏈條，社會危害極大。

侵犯公民個人信息罪：非法收集、處理人臉信息用于換臉。《民法典》規定，自然人享有隱私權，任何組織或者個人不得以刺探、侵擾、泄露等方式侵害他人的隱私權。嚴重者可能觸犯《刑法》，如某案被告因販賣換臉教程及非法處理人臉數據被判賠償公益損失6萬元。

華資律所張宇哲律師認為，面對這些問題，我們需要認識到技術本身并不是問題所在，關鍵在于如何規范其應用。

一方面，政府和監管機構應當加強對AI換臉技術的監管力度，制定和完善相應的法律法規；另一方面，企業和開發者也有責任確保他們的產品和服務不會被用于非法目的，同時要提高用戶的意識，教育他們識別和防范AI換臉技術帶來的風險。

此外，公眾也需要增強自我保護意識，了解自己的權利，并學會運用法律武器維護自身權益。只有這樣，我們才能在享受科技進步的同時，有效避免由此帶來的負面影響，共同營造一個健康和諧的社會環境。

人工智能（AI）技術正以前所未有的速度改變著我們的生活。然而，隨著技術的進步，也帶來了許多新的問題和挑戰。作為法律專業人士，我們有責任也有義務去探索解決方案，以促進一個更加公平公正的社會環境。希望通過這篇文章，能夠引發更多人對于AI時代下個人權利保護的關注與思考。

▌律師簡介

張宇哲律師曾有十余年保險、互聯網金融領域從業經歷，對保險、金融公司的運作模式及產品有一定的了解。從事法律工作至今，已為多家保險、金融機構提供法律培訓和法律服務。

張宇哲律師在征地拆遷領域也具備一定的訴訟和非訴經驗，張律師熟悉政府征拆流程，能夠根據案件情況通過政府信息公開、行政復議、行政訴訟、代表當事人與政府機關進行調解、談判等方式高效解決糾紛。

張律師一直秉持著“為當事人提供專業服務、維護當事人合法權益”的執業理念，為當事人提供專業、高效的法律服務。

▌行業領域

金融行業

▌執業領域

保險合同糾紛|金融借款合同糾紛|征地拆遷糾紛

尤其擅長處理 ：保險合同糾紛

▌代表性案例

▌代理某信貸公司處理債權資產數百萬

▌代理山西運城客戶與山西某保險公司人身保險合同糾紛案件，為客戶爭取到百萬理賠款

▌代理北京某電子設備公司買賣合同糾紛

▌代理上海某客戶與上海市某區政府行政賠償糾紛

▌代理湖北孝感客戶與某縣政府征地拆遷糾紛

▌代理杭州某客戶與杭州某區街道辦恢復原狀糾紛