第4541期三川匯文化科技

為規范AI服務和應用，促進行業健康有序發展，保障公民合法權益，近日，中央網信辦印發通知，在全國范圍內部署開展為期3個月的“清朗·整治AI技術濫用”專項行動。

編審| 時光

編輯| 半島

來源| 中國網信網

為規范AI服務和應用，促進行業健康有序發展，保障公民合法權益，近日，中央網信辦印發通知，在全國范圍內部署開展為期3個月的“清朗·整治AI技術濫用”專項行動。

行動目的：

規范AI服務和應用，促進行業健康發展，保障公民合法權益。

行動時間：

為期3個月。

行動階段及整治重點：

第一階段： 強化AI技術源頭治理。重點整治違規AI產品、傳授售賣違規教程和商品、訓練語料管理不嚴、安全管理措施薄弱、未落實內容標識要求、重點領域安全風險等6類問題。

第二階段： 聚焦利用AI制作發布違法不良信息等問題。重點整治利用AI制作發布謠言、不實信息、色情低俗內容，假冒他人實施侵權違法、從事網絡水軍活動，AI產品服務和應用程序違規，侵害未成年人權益等7類問題。

行動要求：

各地網信部門要切實履行屬地管理責任，督導網站平臺對照專項行動有關要求，健全AI生成合成內容審核機制，提升技術檢測能力，做好整改落實。加強人工智能相關政策的宣傳推廣和人工智能素養的科普教育，引導各方正確認識和應用人工智能技術，不斷凝聚治理共識。

第一階段重點整治6類突出問題：

一是違規AI產品。

·利用生成式人工智能技術向公眾提供內容服務，但未履行大模型備案或登記程序。

·提供“一鍵脫衣”等違背法律、倫理的功能。

·在未經授權同意情況下，克隆、編輯他人聲音、人臉等生物特征信息，侵犯他人隱私。

二是傳授、售賣違規AI產品教程和商品。

·傳授利用違規AI產品偽造換臉視頻、換聲音頻等教程信息。

·售賣違規“語音合成器”“換臉工具”等商品信息。營銷、炒作、推廣違規AI產品信息。

三是訓練語料管理不嚴。

·使用侵犯他人知識產權、隱私權等權益的信息。

·使用網上爬取的虛假、無效、不實內容。

·使用非法來源數據。未建立訓練語料管理機制，未定期排查清理違規語料。

四是安全管理措施薄弱。

·未建立與業務規模相適應的內容審核、意圖識別等安全措施。

·未建立有效的違規賬號管理機制。未定期開展安全自評估。

·社交平臺對通過API接口接入的AI自動回復等服務底數不清、把關不嚴。

五是未落實內容標識要求。

·服務提供者未對深度合成內容添加隱式、顯式內容標識，未向使用者提供或提示顯式內容標識功能。

·內容傳播平臺未開展生成合成內容監測甄別，導致虛假信息誤導公眾。

六是重點領域安全風險。

·已備案AI產品提供醫療、金融、未成年人等重點領域問答服務的，未針對性設置行業領域安全審核和控制措施，出現“AI開處方”“誘導投資”“AI幻覺”等問題，誤導學生、患者，擾亂金融市場秩序。

第二階段重點整治7類突出問題：

一是利用AI制作發布謠言。

·無中生有、憑空捏造涉時事政治、公共政策、社會民生、國際關系、突發事件等各類謠言信息，或擅自妄測、惡意解讀重大方針政策。

·借突發案事件、災難事故等，編造、捏造原因、進展、細節等。冒充官方新聞發布會或新聞報道，發布謠言信息。

·利用AI認知偏差生成的內容進行惡意引導。

二是利用AI制作發布不實信息。

·將無關圖文、視頻拼湊剪輯，生成虛實混雜、半真半假的信息。

·模糊修改事件發生的時間、地點、人物等要素，翻炒舊聞。

·制作發布涉財經、教育、司法、醫療衛生等專業領域的夸大、偽科學等不實內容。

·借助AI算命、AI占卜等誤導欺騙網民，傳播迷信思想。

三是利用AI制作發布色情低俗內容。

·利用AI脫衣、AI繪圖等功能生成合成色情內容或他人不雅圖片、視頻，衣著暴露、搔首弄姿等軟色情、二次元擦邊形象，或扮丑風等導向不良內容。

·制作發布血腥暴力場景，人體扭曲變形、超現實怪物等恐怖詭譎畫面。

·生成合成“小黃文”“葷段子”等性暗示意味明顯的小說、帖文、筆記。

四是利用AI假冒他人實施侵權違法行為。

·通過AI換臉、聲音克隆等深度偽造技術，假冒專家、企業家、明星等公眾人物，欺騙網民，甚至營銷牟利。

·借AI對公眾人物或歷史人物進行惡搞、抹黑、歪曲、異化。

·利用AI冒充親友，從事網絡詐騙等違法活動。

·不當使用AI“復活逝者”，濫用逝者信息。

五是利用AI從事網絡水軍活動。

·利用AI技術“養號”，模擬真人批量注冊、運營社交賬號。

·利用AI內容農場或AI洗稿，批量生成發布低質同質化文案，博取流量。

·使用AI群控軟件、社交機器人批量點贊跟帖評論，刷量控評，制造熱點話題上榜。

六是AI產品服務和應用程序違規。

·制作和傳播仿冒、套殼AI網站和應用程序。

·AI應用程序提供違規功能服務，例如創作類工具提供“熱搜熱榜熱點擴寫成文”等功能，AI社交、陪聊軟件等提供低俗軟色情對話服務等。

·提供違規AI應用程序、生成合成服務或課程的售賣、推廣引流等。

七是侵害未成年人權益。

·AI應用程序誘導未成年人沉迷、在未成年人模式下存在影響未成年人身心健康的內容等。

行業窗口與頂尖新媒體【三川匯文化科技】已運維4000多期（持續十多年，跨越4000多天），推送文化、旅游、體育領域專業優質文章8000多篇。【三川匯文化科技】始終秉承權威、專業、準確、及時、實用的特點，聚焦文化、旅游、體育等行業前沿動態、發展思考，直面新時代行業發展重大問題，融匯行業內外精英的觀察和理解，得到了全國從中央到地方各級政府公務員、企事業單位負責人、精英從業者的高度關注與大力支持，亦架設起溝通各方的暢通渠道，是中共中央宣傳部、國家發展和改革委員會、文化和旅游部、國家廣播電視總局、國家電影局、國家新聞出版署、國家文物局、國家體育總局等有關部門，各地市政府，以及全國各文化、旅游、體育企業的重要助手。歡迎訂閱關注！

喜歡這篇嗎？分享、點贊、推薦，都安排上～