在網絡安全的世界里,一杯咖啡的時間就可能讓黑客完成一場AI驅動的網絡攻擊。當ChatGPT、DeepSeek等AI工具讓黑產從業者的攻擊效率實現指數級躍升,當沒有技術背景的黑客也能借助AI輕松發起攻擊......一場關乎數字世界存亡的軍備競賽正在悄然升級。
在這場沒有硝煙的戰爭中,一群以“攻”為“守”的數字俠客,正在用AI對抗AI的方式與黑客博弈。他們在黑客尚未利用漏洞前,主動攻破并及時修復,被譽為企業內部的“家庭醫生”。他們是網絡世界中正義的守護者——白帽黑客。
在AI浪潮奔涌的當下,白帽黑客們正站在技術變革的新起點。他們渴望迎接挑戰、把握機遇,更期待在一個開放共享的社區中快速成長。國內領先的漏洞響應平臺——補天平臺,正致力于為白帽子打造這樣的交流和成長環境。補天平臺最新推出的“AI安全獎勵計劃”對白帽子們頗具吸引力:不僅對通用AI開源產品漏洞提供雙倍獎金,還為AI類技術投稿發放雙倍稿酬,以此激勵更多白帽黑客投身AI安全研究。
近日,補天平臺更攜手AI安全領域知名白帽新星洺熙,對攻防社區的AI技術內容體系進行全面升級。通過系統性地梳理AI應用開發、模型安全、數據防護等全鏈路知識體系,不僅為白帽黑客提供了更具價值的AI技術研究指南,更構建起一個專業化的AI安全學習知識庫。這一創新舉措在提升社區內容質量的同時,也將為國家AI安全人才培養提供重要的學習資源支撐。
“AI用得越頻繁,黑客的手段也就越狠!”洺熙警示道。當前多數大模型服務器缺乏基本防護,面臨算力竊取、數據泄露、服務癱瘓等嚴峻風險。隨著大模型從實驗室走向商用,企業必須直面這場AI安全攻防戰,而白帽黑客更應抓住機遇,鍛造AI時代的安全防御利劍。
補天平臺負責人田朋則指出:“在網安行業,興趣和伙伴是持續前行的動力,唯有分享和交流,才能推動白帽群體安全水平的整體提升。特別是在AI安全領域,我們更需要構建專業化的實戰交流平臺,培育良性互動的網絡安全生態,讓前沿技術和實戰經驗在社區中不斷傳承。”他強調,補天AI安全獎勵計劃的核心使命,就是搭建一個面向安全愛好者、高校人才、企業安全團隊與政府機構的多方共創平臺,營造濃厚的AI技術研習氛圍,更要為國家培養一批批具備實戰能力的AI安全生力軍。
一、AI攻擊重塑網絡犯罪格局
隨著AI技術深度融入到社會生活的各個領域,網絡攻擊手段也正在經歷一場“智能化”蛻變。AI驅動的攻擊行為重塑了整個網絡犯罪格局,例如:攻擊者利用Gen-AI 創建逼真的網絡釣魚網站,或生成深度偽造內容,使網絡釣魚攻擊更具針對性和欺騙性;使用AI偽造圖片和視頻進行人臉識別、語音、視頻詐騙等攻擊;利用AI改造升級漏洞掃描工具以前所未有的性能掃描系統漏洞,配合自動化、結構化、精準化掃描策略調整,不斷擴大攻擊范圍......這些由AI驅動的新型攻擊手段使得網絡犯罪的精準性、隱蔽性和破壞性都呈現出幾何級數增長。
更令人擔憂的是,AI攻擊具備高度規模化特性。洺熙介紹:在以往處理固定流程和自動化任務方面的工具與AI進行協同后,充分運用AI分析海量數據,精準識別復雜模式的獨特優勢,能夠以遠超人工的規模和速度去預測潛在的弱點,顯著提升網絡安全的效率。
“在大模型技術加速落地的背景下,新興技術架構正在催生全新攻擊面。”洺熙強調:以RAG(檢索增強生成)、MCP(模型上下文協議)、Agent(AI智能體)為代表的技術架構,在提升AI應用能力的同時也引入了新的安全風險:
RAG賦予大模型結合外部知識的能力,但其對外部數據源的依賴使其面臨“數據投毒”和“指令注入”等安全隱患。攻擊者可在知識庫中嵌入偽造內容或惡意指令,導致AI生成錯誤建議甚至泄露敏感信息。例如,醫療機構若遭篡改診療文檔,AI助手可能誤導醫生下達錯誤治療方案。
MCP作為連接大模型與操作系統的橋梁,使AI可執行本地命令、調用程序,一旦接口權限控制不當,攻擊者可通過誘導Prompt觸發腳本執行、竊取數據或實現遠程控制,形成“以文攻破”的攻擊鏈。
而Agent具備自主拆解任務與持續操作能力,一旦邏輯被控制,其可在不引起警覺的情況下長期滲透企業系統,例如在CRM中反復篡改客戶數據、偽造報表,形成持續性業務破壞。由于Agent具備感知環境并調整策略的能力,一旦“黑化”,不僅難以察覺,更增加溯源和恢復的挑戰。
面對智能化攻擊的升級,洺熙預測,未來3-5年,網絡安全將迎來與AI進行深度協同的時期,AI技術將顯著提升攻擊的自動化水平和智能化程度。攻擊者在AI的輔助下,大幅簡化從漏洞初步分析、攻擊代碼輔助生成到部分攻擊流程的執行。這意味著,過去高度依賴專業技能的復雜攻擊(如勒索軟件),其部分關鍵環節的執行門檻因AI的介入而降低,甚至在特定場景下展現出由AI主導或高度自動化的特征,并催生出需要全新防御范式的新型威脅,從而加速推動網絡安全攻防對抗向更高階的智能博弈演進。更嚴峻的是,AI代碼同質化正在醞釀行業級危機——當不同企業使用相同AI工具生成相似度超90%的業務代碼時,單一漏洞即可引發“千企同破”的鏈式反應。這種由算法趨同性導致的系統性風險,其破壞半徑遠超傳統供應鏈攻擊。
“AI不會主動作惡,但它讓作惡變得前所未有地容易。”在這場不對稱的AI安全攻防戰中,企業和安全從業者必須未雨綢繆,用AI武裝防御體系,才能守住數字世界的安全底線。
二、以價值引領白帽子對抗黑灰產誘惑
AI數字化產業價值越大,其背后的安全代價也水漲船高。“當行業正向投入不足時,技術必然會被反向利用,惡性事件將難以避免。”補天平臺負責人田朋指出,AI技術的演進正在大幅提升黑灰產的變現能力,如果不能通過正向引導將白帽人才(包括潛在從業者)吸納至正規安全行業,后果將不堪設想。
補天平臺的獨特價值在于,它不直接與黑灰產爭奪人才,而是通過構建“價值認可+社會責任感”的雙重激勵機制,為技術人才鋪設通往光明未來的道路。“白帽與黑帽掌握著同樣的技術,頂尖人才的破壞力極強。唯有讓他們感受到自身價值被社會需要和尊重,才能避免其誤入歧途。”田朋強調。
作為奇安信集團旗下獨具特色的網絡安全公益平臺,補天從創立之初就肩負著雙重使命。一方面幫助企業借力白帽群體發現漏洞、強化防御,另一方面為國家培育正向網絡安全人才。這一創新模式成功搭建起企業與白帽群體之間的信任橋梁——不僅破除企業對白帽黑客“亦正亦邪”的認知,更通過豐厚的漏洞獎勵機制,讓技術人才的勞動獲得應有的尊重與回報,實現了社會效益與白帽人才價值的雙重提升。
即便在商業化服務中,補天也將收益反哺白帽群體:或用于獎金池擴容,或投入線下技術交流活動,始終堅守“技術向善”的初心。如今,面對AI安全新挑戰,補天再次引領行業創新,率先推出業內首個AI專項漏洞獎勵計劃——針對Ollama、VLLM、Vanna等主流開源AI產品的漏洞實施雙倍獎金激勵,單項最高獎勵提升至2.2萬元。“這些投入都是我們自掏腰包,”田朋堅定表示,“我們將持續投入,因為守護網絡安全生態的使命重于商業利益。”
“漏洞就是白帽黑客的知識變現。”田朋解釋道,“當挖洞能帶來可觀收入且獲得企業認可時,誰還會鋌而走險做黑產?”數據顯示,補天平臺已累計發放超億元漏洞獎金,部分頂尖白帽年收入達過百萬元,甚至實現職業自由。這種良性循環推動平臺白帽數量在十年間增長800倍,漏洞提交量增長700倍。
從招聘市場調研來看,AI安全領域的技術崗位薪資普遍高于傳統安全崗位。田朋指出,“特別是掌握AI算法安全、大模型威脅防護以及AIGC內容安全等尖端技術的白帽人才,正在成為企業競相爭奪的稀缺資源。”他特別強調,在補天平臺漏洞積分榜或獎金榜躋身前十,或是進入眾測服務TOP200的白帽精英,往往能收到多家頭部企業的橄欖枝。“這些在真實攻防對抗中錘煉出的實戰本領,不僅讓他們在求職時備受青睞,更能獲得遠超行業平均水平的薪資回報。”田朋進一步解釋道,這些榜單排名不僅是技術實力的硬核證明,更是白帽們在新時代職業競爭力的最佳背書。
據了解,目前,補天已構建起覆蓋Web應用、移動APP、IoT、工控、操作系統及AI等全維度的漏洞響應體系,成為國內極少數具備全領域漏洞治理能力的第三方平臺。面對AI安全這一戰略新高地,未來補天將持續深化AI安全生態建設,通過創新激勵機制與豐厚現金獎勵的驅動,既幫助白帽人才實現技術突破與價值提升,又確保他們能充分享受AI發展帶來的行業紅利。這一戰略布局不僅彰顯了補天平臺的商業智慧,更體現了其作為網絡安全守護者的使命與擔當。
三、從大學生到AI安全“大神”:00后白帽洺熙的成長啟示錄
想要抓住AI時代的安全紅利,白帽子必須加速技能升級。那么,如何快速掌握AI安全技能?00后AI安全白帽新星洺熙的成長經歷或許最具代表性。
洺熙,這位信息安全專業的在讀大學生,用短短兩年時間完成了從安全萌新到 AI安全領域知名研究員的蛻變。當 OpenAI 推出的 ChatGPT 掀起全球 AI 浪潮之時,他敏銳地抓住機遇,通過自學迅速掌握 AI 與大模型安全的核心技術,如今已成為各大網絡安全沙龍炙手可熱的演講嘉賓。作為米斯特AI安全小組的核心研究員,他編寫的《Prompt越獄手冊》和《AI 應用與安全指南》《Hello AI》已成為新手入門的必讀寶典,而開發的《靈溯LLM安全測試平臺》與其創辦的《M-Wiki》AI安全社區與知識庫,則給新人實戰演練與接觸前沿AI知識的空間。回到學校內,同學們也總愛喚他“AI 安全大神”。而這一切的起點,不過是補天平臺校園計劃中的一次偶然參與。
“沒有捷徑可走,踏上靈山不斷走穩每一步是必經之路,白帽攻擊視野由知識廣度決定,憑借持續學習,消除各知識短板,最終才能構建寬廣堅實的基礎與特定領域的頂尖專長能力”,洺熙這樣總結自己的成長經歷。他特別強調,想要涉足AI安全,必須先打好網絡安全的基礎。“就像建造高樓必須先打好地基,網絡安全就是 AI安全的根基。”在他看來,當前階段,AI在網絡攻擊中更多扮演高效能放大器的角色,顯著增強現有攻擊手段的規模、效率速度,而非在短期內從根本上創造出全新范疇的攻擊模式。盡管AI的介入使得部分攻擊的實施門檻降低、頻次增加,網絡安全攻防對抗的核心邏輯與基礎原則并未改變,就像很多 AI 應用的安全問題本質上仍是 Web 安全或云安全問題的延伸。正是大學期間積極參與補天平臺的漏洞懸賞和各種線下活動,閱讀社區內的各大精華文章,讓他有良好開闊的視角看待安全問題,這些傳統安全領域的沉淀,成為他后來快速掌握AI安全的關鍵。
對于已經具備基礎的白帽們,洺熙建議采取循序漸進的學習路徑:首先要深入理解AI的基本原理和訓練流程,然后研究AI的實際應用場景以及AI存在的知識邊界,最后才能觸及AI安全的核心技術。“未知攻,焉知防,攻防并進,生生不息”,“博觀而約取”這是洺熙始終堅持的學習理念。AI技術正在重塑白帽黑客的學習與工作范式。洺熙特別強調:善用AI工具可以帶來效率的指數級提升。在知識獲取層面,像以Deep Research為代表的AI知識檢索工具,能夠智能聚合全球安全知識庫、漏洞數據庫和攻擊案例,實現精準信息檢索與結構化整理,極大提升學習效率。
在實戰應用方面,AI 驅動的自動化工具正在悄然改變以往漏洞挖掘的工作模式,比如:通過 AI 工具輔助識別攻擊面、篩選高危資產、自動化分析漏洞報告等等。這種技術革新不僅讓專業白帽的工作效率從每月只能挖掘 5 個漏洞躍升至 50 個,更使行業門檻下降,使得非專業人士也能通過AI輔助工具參與基礎漏洞挖掘工作。
面對AI技術的強大能力,一個值得深思的問題是:AI是否會最終取代白帽黑客?對此,洺熙給出了理性而專業的判斷:當前階段的人工智能尚無法完全取代人類安全專家,因為那些需要深度理解復雜業務邏輯,創造性攻擊思維及對新興未知威脅的快速反應能力,是目前AI難以獨立完成的。AI目前的核心定位是效率倍增器和模式識別引擎,能夠賦能安全場景,也能通過自動化重復任務和輔助分析,幫助白帽提升效率和拓展能力邊界。但未來的網絡安全必然走向人機協同的模式,頂尖專家將是那些能嫻熟運用AI并結合自身專業洞察的復合型人才,制高點將屬于那些能夠將AI的計算分析能力與人類獨特認知優勢深度融合,從而駕馭復雜性、引領安全范式創新的人員。
最后,洺熙呼吁學習AI安全的白帽子既要積極加入高質量社區汲取集體智慧,也要投身開源或企業項目錘煉實戰本領。這一觀點與補天平臺負責人田朋的理念不謀而合:“在AI 技術日新月異的今天,新一代白帽必須在開放共享的社區生態中碰撞思想、協同進化。
“這既是應對技術變革的必然選擇,也是實現快速成長的最佳路徑。”作為實踐典范,補天平臺經過十余年發展,已經匯聚了15萬名白帽精英,累計為企業發現超過200 萬個漏洞,這些數字不僅彰顯著平臺的影響力,更記錄著中國白帽群體從成長到成熟的發展軌跡。田朋表示,“在技術變革的浪潮中,通過社區的集體智慧,相信每位白帽都能找到自己的加速跑道。”
四、填補AI安全人才缺口,補天創新專業人才培養方案
隨著人工智能技術在各領域的深度滲透,網絡安全行業正面臨前所未有的專業人才結構性短缺挑戰。這一挑戰不僅體現在人才數量上的缺口,更凸顯在專業能力與快速演進的技術需求之間的鴻溝。
網絡安全行業一直保持著獨特的生態特征——它既是一個高度專業化的技術圈子,又因“白帽子”群體的松散性而呈現出多元發展態勢。正如補天平臺田朋所言:“在AI技術呈指數級發展的當下,以院校教育為主導的傳統線性培養模式正面臨嚴峻挑戰——固化課程體系與瞬息萬變的技術革新之間形成了巨大的知識代差,且這一知識代差正隨著技術迭代加速而持續擴大。”當攻防技術的更新周期壓縮至以月、周乃至天為單位時,行業面臨的人才缺口正在從數量短缺向質量短缺轉變,尤其是具備AI驅動防御技術的復合型人才,已成為當前最稀缺的戰略資源。這一轉變不僅折射出技術演進對人才標準的重塑,更預示著網絡安全人才培養體系亟待一場面向未來的深度變革。
為此,補天平臺正在構建一套“三維一體”的AI安全人才培養方案:
在知識體系建設方面,補天平臺已與AI安全領域知名的新星白帽洺熙達成深度合作,全面升級AI技術內容體系。通過對投稿方向的系統化梳理,構建覆蓋AI基礎應用、模型安全、數據防護等全鏈條的知識圖譜,不僅為白帽提供了清晰的進階路徑,更打造了一個動態更新的專業化AI安全知識庫。
在社區生態打造上,補天將持續創新活動形式,通過AI安全挑戰賽、大模型攻防沙龍、年度白帽黑客大會等多元化活動,構建開放共享的技術交流平臺。這些活動不僅為白帽子提供交流展示的機會,更致力于培育“技術向善”的極客文化氛圍。
尤為關鍵的是實戰能力培養環節。一方面,補天將繼續聯合AI安全生態企業推出更多產品漏洞挖掘獎勵計劃;另一方面,將充分利用奇安信的客戶資源,開發AI專項眾測項目,為白帽提供真實的AI系統攻防演練機會。
這一培養體系的獨特之處在于,它將專業的知識內容、活躍的社區交流和真實的攻防環境有機融合,真正實現學以致用、用以促學的良性循環,為AI安全人才成長提供了全方位的支持。正如田朋所說:“我們不僅要解決人才數量問題,更要突破人才質量瓶頸。我們要培養的不是紙上談兵的理論家,而是能應對真實威脅的實戰型人才。”
網絡安全越是風雨飄搖,越需要守護者堅定前行。在這場由AI引發的網絡安全暗戰中,唯有讓更多白帽子挺身而出,以AI之力對抗AI之惡,才能讓黑產的暗影無處遁形。當千萬白帽的智慧如繁星般閃耀,我們終將織就一張牢不可破的“天網”。而像補天這樣的專業漏洞響應平臺,正在為新一代網絡安全人才的成長提供著最肥沃的土壤,也終將會為人工智能的數字星河塑造出無窮無盡個“補天英雄”......
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.