自大模型問世，安全防護(hù)不斷演變，當(dāng)前，智能體在安全領(lǐng)域處理復(fù)雜事務(wù)的能力正逐漸提升。

“通過安全智能體，企業(yè)安全運維人員只需要一杯咖啡的時間，就能篩查出原本需要幾小時，甚至更長時間才能篩查出的網(wǎng)絡(luò)安全問題，并解決它?！盕ortinet中國區(qū)技術(shù)總監(jiān)張略告訴筆者，同時他也坦言，最終輸出的結(jié)果仍需要企業(yè)安全運營人員進(jìn)行最終選擇/確認(rèn)。

從整體行業(yè)上看，AI對安全行業(yè)的重構(gòu)已經(jīng)比較深入。但是從“輔助駕駛”到“全自動駕駛”，安全智能體還有多遠(yuǎn)的路要走？

AI+安全的“三步走”

據(jù)SUSE統(tǒng)計，隱私和數(shù)據(jù)安全（57%）以及人工智能驅(qū)動的網(wǎng)絡(luò)攻擊（55%）是生成式AI云安全的首要問題，只有 7% 的 IT 決策者認(rèn)為不存在相關(guān)安全風(fēng)險。

另一方面，Gartner預(yù)測，到2025年，生成式AI的采用將導(dǎo)致企業(yè)機(jī)構(gòu)所需的網(wǎng)絡(luò)安全資源激增，使應(yīng)用和數(shù)據(jù)安全支出增加15%以上。

顯然，AI大模型在給我們帶來便利的同時，也為不法分子帶來了更加高效的攻擊手段。而目前安全行業(yè)內(nèi)比較認(rèn)可的說法是——用AI打敗AI。

自從大模型問世之后，安全行業(yè)成為第一批主動擁抱大模型技術(shù)的行業(yè)。而在此背景下，也衍生出了另一個對于安全行業(yè)來說，具有變革意義的觀點——安全行業(yè)已經(jīng)從賣產(chǎn)品，變?yōu)橘u服務(wù)。

在外界復(fù)雜度不斷提升的安全挑戰(zhàn)面前，企業(yè)級安全理念、產(chǎn)品的迭代速度也隨之提升，企業(yè)對于網(wǎng)絡(luò)安全防護(hù)措施的需求也在隨之變化，這其中最明顯的一點就是—從原先簡單的安全產(chǎn)品的堆疊，向著統(tǒng)一平臺化的解決方案的需求方向演進(jìn)。

而在Fortinet中國區(qū)總經(jīng)理李宏凱看來，安全智能體已經(jīng)出現(xiàn)，并開始幫助企業(yè)級用戶處理日漸復(fù)雜的安全事件。同時，張略認(rèn)為，安全行業(yè)應(yīng)用AI技術(shù)已經(jīng)實現(xiàn)了“三步走”。

• 首先，AI在安全行業(yè)的第一階段大概從2010年開始，這個階段機(jī)器學(xué)習(xí)與深度學(xué)習(xí)才剛剛在安全行業(yè)得以應(yīng)用，大多數(shù)安全產(chǎn)品都是“單兵作戰(zhàn)”的狀態(tài)，企業(yè)主要依賴基礎(chǔ)安全產(chǎn)品與服務(wù)配合。
• 第二階段，當(dāng)生成式AI問世之后，AI深度融入攻防全鏈條，實現(xiàn)自動化威脅檢測、響應(yīng)與預(yù)測，形成“以AI對抗AI”的智能防御體系，但在今年以前，AI主要還是起到單點的輔助作用，只能輔助決策，“在這個階段，F(xiàn)ortinet推出了面向安全運營中心的FortiAI智能助手V1，開創(chuàng)AI輔助安全決策新范式?！睆埪灾赋?。
• 第三階段，就是當(dāng)下及未來很長一段時間內(nèi)，安全行業(yè)重點“卷”的方向——安全智能體。這個階段，AI技術(shù)已從輔助工具逐漸升級為安全體系的“中樞大腦”。通過安全智能體，企業(yè)可以將原本分散的安全產(chǎn)品與能力，整合到一起，形成聯(lián)動、聯(lián)防，并通過AI動態(tài)學(xué)習(xí)攻擊模式，實現(xiàn)“以安全的AI對抗惡意的AI”的主動防御。

傳統(tǒng)上，企業(yè)傾向于采購業(yè)內(nèi)最好的單點產(chǎn)品，以應(yīng)對具體安全問題，并期望通過不同供應(yīng)商優(yōu)秀產(chǎn)品的疊加組合，來覆蓋安全需求的各個層面。

而隨著安全局勢的轉(zhuǎn)變，以及AI帶來了更加頻繁、高效的攻擊，企業(yè)逐漸意識到，“堆疊”式安全單品難以應(yīng)對日益復(fù)雜的網(wǎng)絡(luò)威脅，用戶開始逐漸希望能夠整合多種安全功能于統(tǒng)一的平臺的方案，增強(qiáng)威脅檢測與響應(yīng)能力，降低管理復(fù)雜度，提升安全運營效率。

針對此，張略表示，接下來，一方面企業(yè)構(gòu)建一體化的安全體系成為關(guān)鍵，也是主流趨勢；另一方面，在一體化的趨勢下，如何將安全服務(wù)商與IT服務(wù)商融合起來，讓AI智能體真正實現(xiàn)萬物互聯(lián)，并實現(xiàn)以安全為目標(biāo)的自動化和自主運營將成為安全行業(yè)的重中之重。

而有著類似觀點與相近業(yè)務(wù)布局的，不僅是Fortinet一家。一體化的安全防護(hù)體系已經(jīng)成為幾乎所有安全服務(wù)商共同追求的目標(biāo)。而這個體系，以及相對應(yīng)的安全能力，目前來看，最終呈現(xiàn)出的產(chǎn)品形態(tài)就是：安全運營。

從概念上看，安全運營是指利用安全產(chǎn)品或安全服務(wù)等提升企業(yè)信息安全能力的一系列管理過程，包括對安全產(chǎn)品或安全服務(wù)的需求、設(shè)計、運行、監(jiān)控、改進(jìn)等。這一過程通過運營已經(jīng)部署的安全產(chǎn)品，讓各類安全措施充分發(fā)揮其應(yīng)有的防護(hù)效力。它不僅僅關(guān)注單個安全產(chǎn)品的性能，而是從系統(tǒng)化的角度，對企業(yè)整體安全進(jìn)行運營管理。

雖然安全運營的概念已經(jīng)出現(xiàn)有些年頭，但隨著安全智能體在安全行業(yè)逐漸“成熟”，今時今日的安全運營已經(jīng)“不可同日而語”。

正如文章開頭張略對筆者所述，通過安全智能體能快速篩查和解決安全問題，而在增效的同時，安全智能體還能幫助企業(yè)將人力投資的重點放在驅(qū)動自身業(yè)務(wù)發(fā)展上。

看似簡單的智能體實現(xiàn)安全運營的背后，實際流程卻很復(fù)雜。

以服務(wù)器告警為例，首先，安全智能體通過分析服務(wù)器運行日志，發(fā)現(xiàn)內(nèi)網(wǎng)IP地址報警，進(jìn)而對主機(jī)上進(jìn)程進(jìn)行自動化查詢并發(fā)現(xiàn)可疑IP地址，通過威脅情報庫進(jìn)行查詢該IP地址，并確認(rèn)服務(wù)器被“感染”。

確認(rèn)異常之后，安全智能體還要調(diào)查攻擊詳情，找出漏洞所在，并通過調(diào)用知識庫，為安全運營人員提供處理建議。最后，通過安全運營人員的選擇處理操作后，再由安全智能體解決掉該次告警。

不僅于此，一個合格的安全智能體，還要通過這次攻擊，進(jìn)行攻擊溯源，并將其結(jié)合到自身知識庫中，以防范下次類似安全事件的發(fā)生。

此外，與其他行業(yè)一樣，不能因為生成式AI技術(shù)的加持，增加原本工作人員的操作難度，這也不利于生成式AI在各行業(yè)中的普及?；氐桨踩袠I(yè)，張略表示，F(xiàn)ortinet推出的FortiAI可以讓安全運營人員通過簡單的對話的形式，并經(jīng)過簡單的培訓(xùn)就能上手實操，在提供了便捷的能力的同時，并沒有增加安全運營的整體操作難度。

兩大挑戰(zhàn)：專有性、安全性

安全智能體雖好，但目前來看仍處于發(fā)展的階段，專業(yè)性和安全性仍然是兩個比較嚴(yán)峻的挑戰(zhàn)。

眾所周知，大模型的安全一直是困擾行業(yè)的一大難題，一方面，模型本身的安全性，如何避免“幻覺”的發(fā)生，如何確保模型合規(guī)，不會出現(xiàn)“黃恐”信息，甚至倫理問題等；另一方面，大模型也如同互聯(lián)網(wǎng)時代其他應(yīng)用程序一樣，面臨著數(shù)據(jù)安全、網(wǎng)絡(luò)安全的挑戰(zhàn)。

對于安全行業(yè)大模型/智能體來說，在為用戶網(wǎng)絡(luò)、數(shù)據(jù)保駕護(hù)航的同時，安全大模型/智能體自身的安全問題及專業(yè)性問題是首先需要解決的問題。

這其中，就如同其他行業(yè)大模型一樣，安全大模型首先需要面對的就是訓(xùn)練過程中數(shù)據(jù)投毒的問題，張略表示，對于應(yīng)用GenAI的企業(yè)來說沒有足夠的能力去確保輸入數(shù)據(jù)和輸出數(shù)據(jù)之間的驗證的時候，很有可能會適得其反，而這點也適用于安全行業(yè)大模型之上。

為了確保模型本身訓(xùn)練數(shù)據(jù)的安全，以避免出現(xiàn)幻覺，目前行業(yè)常見的操作是：“從企業(yè)內(nèi)部挖掘大量高質(zhì)量數(shù)據(jù)，用這些專有數(shù)據(jù)，并通過大量專家監(jiān)督學(xué)習(xí)的方式，強(qiáng)化AI能力”。而對于安全行業(yè)而言，安全服務(wù)商日積月累的安防經(jīng)驗，以及實時攻防的數(shù)據(jù)就成為了安全服務(wù)商的核心競爭力。

其次，單就安全智能體而言，其需深度理解行業(yè)特有風(fēng)險模式（如工控系統(tǒng)的協(xié)議漏洞、金融業(yè)的交易欺詐特征），但多數(shù)通用模型缺乏領(lǐng)域知識注入。而這也是需要通過安全服務(wù)商原本在安全行業(yè)積累的經(jīng)驗與數(shù)據(jù)才能補(bǔ)足的。

不過，從目前應(yīng)用來看，張略告訴筆者，安全智能體在進(jìn)行自動化安全防護(hù)的過程中，最終輸出的結(jié)果仍需要企業(yè)安全運營人員進(jìn)行最終選擇/確認(rèn)，“目前來看，生成式AI仍是一個統(tǒng)計學(xué)科學(xué)，并不具備自我糾錯的能力，所以目前解決幻覺問題最保險的做法仍是需要再最終環(huán)節(jié)加上人工確認(rèn)的操作?！睆埪匀缡钦f。

從整體行業(yè)上看，AI對安全行業(yè)的重構(gòu)已經(jīng)比較深入，AI已推動安全行業(yè)從“人工響應(yīng)”邁向“智能自治”，其核心價值在于?重構(gòu)防御范式（自動化、智能化）和突破效率瓶頸?。

未來，隨著AI技術(shù)從大模型向著智能體演進(jìn)，AI將更深融入安全產(chǎn)品底層架構(gòu)，實現(xiàn)從“輔助駕駛”到“全自動駕駛”的跨越。（本文首發(fā)于鈦媒體APP，作者｜張申宇，編輯丨蓋虹達(dá)）