文丨劉興亮

來源：人民網-觀點頻道

責編丨趙春曉、曲源

隨著人工智能技術的突破，特別是DeepSeek等智能大模型的崛起，AI已逐步融入人們的日常生活與工作。然而，AI技術在帶來便利的同時，也催生了一系列社會問題，例如論文造假、換臉欺詐等違規行為。這些問題可能加劇虛假信息的傳播，甚至對社會穩定造成威脅。

針對這一現象，全國人大代表李東生提出建議，應對人工智能生成的內容進行強制標識，以減少惡意濫用。他倡導加快出臺相關法規，明確懲戒措施，并加強國際合作，以促進AI技術的健康發展。

任何新興技術在早期發展階段都會經歷一定程度的無序擴張，而當負面影響逐漸顯現，適度監管便成為必要手段。對人工智能生成內容進行強制標識是一項具有現實必要性的措施，不僅符合當前社會治理需求，也有助于未來行業的健康發展。

強制標識AI內容，可促進行業規范化。強制標識機制將推動技術企業更加重視算法的安全性和倫理責任，促使行業向更加規范、有序的方向發展。哪些生成的內容是錯的，需要懲罰的，應詳細明確。中立的內容被非法利用如何處置，都需要有應對方法。

強制標識AI內容，可增強信息透明度。通過明確標識AI生成內容，公眾能夠更理性地辨別信息來源，減少因誤信虛假內容而受騙的風險。

強制標識AI內容，可提高社會安全性。監管部門可以通過標識機制更容易追溯問題內容的來源，明確責任歸屬，并強化法律約束，防止AI技術被濫用于欺詐、造謠等不當用途。

但強制標識AI生成內容在實際落地過程中仍然面臨不少挑戰。

第一，如何確保標識不被篡改或移除仍是難點。目前，AI生成內容的標識可通過水印、元數據嵌入、隱形編碼等技術實現，如果標識易被去除，則其監管效果將大打折扣。

第二，如何跨模型統一標識標準。AI模型的架構和生成方式各不相同，確保不同模型間的互認，是一個需要解決的重要問題。

第三，如何權衡性能與效率，存在挑戰。強制標識需要額外的計算和存儲資源，可能造成企業成本增加。尤其在AI直播、AI語音通話等實時場景下，如何嵌入標識而不影響生成速度和質量，是技術上的另一大挑戰。

在實際推進強制標識AI生成內容過程中，還需充分考慮技術可行性、行業承受能力以及監管執行效率，確保標識機制既能保障透明度，又不影響技術創新。比如，建立一個動態調整的監管體系，通過不斷探索和優化，最終形成符合社會、行業及技術發展需求的可持續監管模式。

首發平臺：人民網