當前,人工智能正邁入規模化應用落地階段,智能體(AI Agent)作為具備環境感知、自主決策、任務執行等核心能力的智能化實體,呈現出多樣化發展趨勢。與此同時,智能體帶來的安全風險也與日俱增。
近日,360聯合清華大學發布全球首份漏洞視角的《智能體安全實踐報告》,通過典型攻擊面梳理和漏洞挖掘研究,深入分析智能體全生命周期鏈路各個場景的安全風險。結合360安全智能體的高效代碼分析能力以及特有的特征庫,分析報告了智能體相關開源項目漏洞20余個,其中不乏被廣泛使用的Github高星項目,旨在提供智能體安全的綜合性視角,為智能體安全生態的持續、積極發展貢獻力量。
框架層藏開發隱患,易成攻擊突破口
智能體架構通常由模型、工具、編排三個主要組件構成,開發框架則以模塊化、可擴展性和快速編排能力為核心,提供一系列預設工具和基礎功能,進而簡化了智能體的構建與部署流程,提升了整體開發效率。但框架中的潛在安全問題也提供了額外的攻擊向量,使其變為惡意攻擊者通過網絡發起攻擊的“幫兇”。
報告指出,智能體開發框架無論是僅建立在本地服務,或是部署在云端的接口,都存在著從遠程被攻破的可能。一方面,啟動本地服務的開發框架通常默認所有的請求都是可信任的,缺少對請求發起方的身份驗證以及對請求中包含數據的二次驗證,極易成為攻擊者橫向滲透的目標,且存在經由瀏覽器轉發請求從而進行遠程攻擊的可能;另一方面,部署在云端的接口中一旦存在漏洞,攻擊者就能利用它來影響整個業務系統的安全。
生態層現協同風險,安全邊界模糊
隨著業務復雜度的提升,參與到智能體系統運作中的成員日益復雜,智能體系統對多角色、多工具的整合能力使其安全邊界愈發模糊。而智能體通過自然語言形式來驅動的特性,使其天然易受外界的干擾和影響。
報告指出,在智能體系統中,大模型通常作為核心感知與決策模塊,大模型的輸出結果在很大程度上決定了智能體的行為走向,智能體的正確推理和響應很大程度上也依賴于可靠的輸入信息。因此,攻擊者可以通過操縱大模型生成包含惡意內容或錯誤流程的響應,從而間接影響智能體的行為。
此外,隨著MCP(Model Context Protocol)規范提出了大模型與工具之間的通用通信框架,極大拓展了智能體的能力邊界,智能體接入的工具愈發復雜多樣,調用鏈條越來越長,MCP Server投毒、MCP Server遠程風險、MCP Client惡意請求等一系列安全風險也隨之顯現。
沙箱層存配置盲區,亟需多層級防護
為了避免智能體在應用過程中的操作風險,通常會使用沙箱隔離方案,即將智能體調用工具的執行環境與真實系統分離,在沙箱內完成操作指令后,將執行結果返回大模型,從而保障工具調用的安全性。
然而,當前主流沙箱雖能快速構建文件系統與代碼執行的隔離環境,卻普遍缺乏對智能體應用場景的精細化配置,無法完全保障隔離效果的可靠性。此外,沙箱自身存在的安全漏洞也可能成為新的攻擊入口,進一步影響智能體整體安全。
以模制模,360安全智能體守護智能體安全
報告指出,智能體的全生命周期安全風險呈現多維性、隱蔽性和系統性特征,其安全威脅滲透在開發、測試、部署和運營等一系列的流程中,只有將安全性作為智能體技術演進的核心指標,而非事后補救的附加功能,才能推動智能體真正成為人類社會的可靠伙伴
作為國內唯一兼具數字安全和人工智能雙重能力的企業,360不僅較早開始關注大模型安全風險,同時打造了首個實現實戰應用的安全智能體——360安全智能體。基于“以模制模”理念,360以安全智能體為核心構建大模型安全解決方案,涵蓋智鑒、智盾、智搜、智控等多款產品,利用AI來檢測和防范大模型可能出現的安全風險,全流程守護AI落地應用的全生命周期安全可控。既解決了傳統網絡安全問題,又為攻克AI安全新挑戰提供了可行性方案。
隨著人工智能發展進入“下半場”,智能體成為推動產業變革的核心力量。站在技術與產業融合的關鍵節點,唯有以創新思維重塑安全體系,將“以模制模”理念融入智能體發展全生命周期,才能真正保障智能體安全運行,推動其發揮核心作用,加速產業在智能化浪潮中行穩致遠。
免責聲明:本文僅供參考,不構成投資建議。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.