(記者 葉菁)安全和智能是硬幣的兩面,沒有安全制衡的智能是危險的,沒有智能驅動的安全是滯后的。翻閱近期報道,不難發現,無論是海外巨頭還是國內科技公司等都把AI智能體視為重點業務方向大力推進。AI技術也加快從“工具輔助”邁向“自主決策”的新階段。然而,技術的快速迭代往往伴隨著未知的風險,安全問題從傳統的數據泄露、系統漏洞,擴展至模型幻覺、智能體失控等新型風險,迫使AI與安全進入共生新紀元。而從運營商的角度來看,保障安全服務成為了刻不容緩的任務。
(圖片來源:攝圖網)
安全風險“放大”
在數字化浪潮洶涌澎湃的當下,AI技術無疑是其中最為耀眼的弄潮兒,為各行各業帶來了前所未有的變革與機遇。然而,如同硬幣的兩面,AI在展現其強大創造力的同時,也悄然滋生出一些新的風險。網絡安全公司Symantec發出警示:AI智能體已突破傳統工具的功能束縛,正逐漸淪為黑客的“幫兇”,對網絡安全構成了全新且嚴峻的威脅。
隨著大模型技術在金融、政務、企業等多個關鍵領域的廣泛應用,安全風險不再是單一存在,而是相互交織、疊加放大。對于運營商而言,AI智能體的應用更是讓安全風險呈現出“放大效應”。 以金融領域為例,根據權威機構Gartner的研究報告,多智能體交互在金融交易系統中的應用,使得訪問控制風險呈指數級增長。多個智能體在不同環節協同工作,一旦某個環節出現漏洞,攻擊者就可能利用這些漏洞進行越權訪問,造成巨大的經濟損失。
同時,“幻覺”累加問題也不容忽視。在政務服務場景中,如果智能體在數據處理的某一環節產生錯誤,后續的流程會不斷引用這個錯誤結果,導致錯誤在整個任務鏈條中被不斷放大,影響政務決策的準確性和公正性。
以模制模動態防御
AI智能體之所以會成為網絡安全的新威脅,背后有著多方面的深層次原因。AI技術本身具有高度的通用性和靈活性,這使得它既可以為合法用戶提供服務,也容易被惡意利用。黑客只需對AI智能體進行簡單的“改造”,就能使其服務于非法目的。而且,AI的自主學習和進化能力意味著,一旦被黑客掌控,這些智能體可以不斷適應新的網絡安全防御機制,持續發起攻擊。
AI帶來的安全問題對于運營商來說已不再是“選擇題”,而是關乎生存和發展的“必答題”。在這種情況下,運用智能手段來約束智能,采用AI安全的方式成為了必然選擇。 運營商可以利用自身的技術優勢,構建基于AI的動態防御體系。通過實時監測網絡流量和智能體行為,運用機器學習算法對潛在的安全威脅進行精準識別和預測。例如,在AI安全的實踐中,身為科技型企業的中國電信致力于通過智能化手段實現安全運營效率的持續提升,積極運用人工智能成果反哺AI安全保障。在數據層面,中國電信打造了國內首個安全領域的高質量數據集“阡陌”,在大模型層面則推出安全垂類大模型“見微”。據了解,見微安全大模型深度聚焦網絡安全賦能,并圍繞數據、代碼、運營、攻防,構建“四位一體”技術框架,全面覆蓋威脅研判、智能運營等核心應用場景,對外全面升級云堤·抗D、天翼安全大腦等產品的核心能力,對內賦能MSSP平臺及SOC體系,全方位守護人工智能時代的數據安全。
此外,運營商還可以與安全技術廠商合作,共同研發針對AI智能體的安全防護解決方案。通過引入先進的加密技術和訪問控制機制,確保智能體之間的交互安全,防止數據泄露和惡意攻擊。
構建可信技術生態
網絡安全從來不是一家之事,產業鏈上下游攜手共建合規,共同打造安全可信生態體系才是上策。運營商作為數字基礎設施的構建者,正在從傳統“管道提供商”轉型為“智能生態運營商”。其構建的安全防御體系也不再是簡單的技術方案,而是融合了網絡能力、算力資源和算法創新的新型基礎設施。
運營商通過與政府、監管部門緊密合作,獲得堅實的政策支持,具有相關資源協調優勢;通過與科研院所、實驗室的研發合作,不斷促進科技成果的轉化和落地,能夠在技術方面保持領先優勢;通過與頭部安全廠商的廣泛合作,集成各方優勢能力,提供了更加可靠的網絡安全服務優勢。
以中國電信為例,中國電信積極與多所高校和科研機構合作,產、學、研緊密結合,建立起多層次、多領域人才培養體系通過組織培訓,持續加強安全人才隊伍建設。另一方面,通過舉辦網絡和數據安全技能競賽,充分挖掘和培養專業型人才。面向行業合作伙伴,中國電信發起成立“天翼網信安全產業聯盟”,加強網絡安全技術研究與應用合作;牽頭建設云網基礎設施安全國家工程研究中心,建立國家級5G安全接入標準體系……
值得注意的是,智能體安全標準化進程仍面臨諸多挑戰。業內專家指出:當前智能體安全標準存在“三重割裂”——技術架構割裂、行業應用割裂、地域監管割裂。這要求運營商在推進標準化的同時,更要注重建立彈性兼容的治理框架。
站在2025年的技術臨界點上,智能體安全已演變為包含技術、倫理、法律等多維度的復雜系統工程。這場安全范式重構的深遠影響或許超出我們當前認知。當某天智能體能夠自主協商安全策略時,人類需要思考的不僅是“如何保護智能體”,更是“如何與智能體共建安全未來”。這既是技術革命的必然要求,也是文明演進的歷史課題。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.