據中國互聯網絡信息中心發布的第56次《中國互聯網絡發展狀況統計報告》顯示，2025年上半年，生成式人工智能產品實現了從技術到應用的全方位進步，產品數量迅猛增長，應用場景持續擴大。

數據顯示，截至2025年3月31日，共有346款生成式AI服務完成國家網信辦備案。截至2025年6月30日，備案數量增至439款，新增93款；另有233款調用已備案模型的應用完成地方登記，新增74款。

備案制度的監管意義不可忽視。

這表明了相關部門對于AI技術發展的重視，并且正在積極建立一套完整的管理體系來促進AI行業的健康發展。

此外，對于那些希望通過API接口或其他方式直接調用已備案大模型能力的應用或功能，則采用登記管理的方式允許上線提供服務。

這意味著即使是使用已經備案的大模型，也需要進行一定的登記程序以確保合規性。

依據《生成式人工智能服務管理暫行辦法》，提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，可通過屬地網信部門履行備案或登記程序。

已上線的生成式人工智能應用或功能，應在顯著位置或產品詳情頁面公示所使用已備案或登記生成式人工智能服務情況，注明模型名稱、備案號或上線編號。

隨著人工智能技術的快速發展，AI技術濫用風險日益凸顯。網信辦于2025年4月啟動“清朗·整治AI技術濫用”專項行動。

第一階段為強化AI技術源頭治理，清理整治違規AI應用程序，重點整治問題有：

清理未備案的違規AI服務，提供如“一鍵脫衣”等違背法律倫理的功能、違規生物特征克隆。

第二階段聚焦利用AI技術制作發布謠言、不實信息、色情低俗內容，假冒他人、從事網絡水軍活動等突出問題，重點整治問題有：

打擊AI生成謠言、色情內容、深度偽造行為如偽造災害圖片、篡改公共事件。

接下來，2025年9月1日起將實施《人工智能生成合成內容標識辦法》，強制標注AI內容來源。

《標識辦法》要求，用戶使用網絡信息內容傳播服務發布生成合成內容的，應當主動聲明并使用服務提供者提供的標識功能進行標識；提供網絡信息內容傳播服務的服務提供者應當采取措施，規范生成合成內容傳播活動，如核驗文件元數據、添加顯著提示標識并提醒公眾、提供必要的標識功能并提醒用戶主動聲明發布內容中是否包含生成合成內容等。

其中，提供網絡信息內容傳播服務的服務提供者如果在文件元數據中未核驗到人工智能生成合成內容隱式標識（隱式標識是指采取技術措施在生成合成內容文件數據中添加的、不易被用戶明顯感知到的標識），用戶也未聲明為生成合成內容，但平臺識別為疑似生成合成內容時，應當采取適當方式在發布內容周邊添加顯著提示標識，提醒公眾該內容疑似生成合成內容。

隨著該辦法的強制施行，AI生成內容的可追溯性與透明度將進一步提升。

編輯：cc