部署于太平洋地區的美海軍陸戰隊，在去年參與了從韓國到菲律賓的多場演習。其中設有單元負責分析監視數據，向指揮官預警潛在威脅。但最近一次部署不同以往：他們首次通過類ChatGPT的聊天機器人界面，使用生成式AI篩查情報。

此次實驗是五角大樓在全軍推動生成式AI（可模擬人類對話的工具）應用的最新例證，其任務范圍涵蓋監視等領域。這標志著美軍AI應用進入第二階段——第一階段始于2017年，聚焦計算機視覺等傳統AI技術（如分析無人機圖像）。盡管新階段啟動于拜登政府時期，但隨著埃隆·馬斯克旗下DOGE公司與國防部長彼得·赫格塞斯高調倡導"AI驅動效率"，其緊迫性顯著提升。

正如報道所述，此舉引發AI安全專家的警示：大語言模型是否適合分析地緣政治高風險情境下的微妙情報？這也加速美國邁向AI不僅分析軍事數據、更提出行動建議（如生成目標清單）的新階段。支持者稱此舉將提升精確度并減少平民傷亡，但多個人權組織持相反觀點。

鑒于此，當美軍及全球其他軍隊將生成式AI引入所謂"殺傷鏈"更多環節時，以下三大開放性問題值得關注：

“人在環內”的邊界何在？

與眾多防務科技公司交流后，會反復聽到一個術語："人在環內"。其核心在于AI執行特定任務，人類負責監督審核。該機制旨在防范極端風險（如AI誤判發動致命打擊）與常規失誤，隱含著雙重承諾：承認AI必然出錯，同時保證人類將糾錯。

但AI系統依賴數千項數據點進行決策的特性，使得人類監督成為艱巨挑戰。AI Now研究所首席AI科學家海迪·克拉夫（曾主導AI系統安全審計）指出："'人在環內'并非總能實現有效風險緩釋。"當AI模型基于數千數據點推導結論時，"人類實際上無法篩選如此龐大的信息量以判定AI輸出是否錯誤"。隨著AI系統數據依賴度持續提升，此問題將呈指數級放大。

AI使信息定密更易還是更難？

冷戰時期的美軍情報體系下，信息通過隱蔽手段獲取，由華盛頓專家撰寫報告后標注"絕密"并限制接觸權限。大數據時代與生成式AI分析技術的興起，正從多維度顛覆這一傳統范式。

匯編分類難題凸顯：假設數百份非密文件各自包含某軍事系統的零散細節，整合者可能據此推導出本應歸密的關鍵信息。過去可合理假設無人能關聯碎片信息，但大語言模型正精于此道。

蘭德公司高級工程師克里斯·穆頓（近期測試生成式AI在情報分析中的適用性）指出，面對數據量與AI分析的指數級增長，"尚未找到對海量產出進行合理定密的理想方案"。定密不足威脅國家安全，但國會亦批評五角大樓存在過度定密問題。

（無人機機首添加OpenAI標識圖示）

OpenAI新防務合同完成軍事化轉型
近日宣布與安杜里爾公司的新合作將在戰場部署AI，標志著該公司立場一年內的重大轉變。

防務巨頭帕蘭蒂爾正布局解決方案，提供AI工具判定數據定密狀態，并與微軟合作開發基于機密數據訓練的AI模型。

AI在決策鏈中的滲透層級應有多高？

縱觀全局，值得注意的是美軍AI應用軌跡與消費級技術高度同步：2017年手機應用盛行人臉識別時，五角大樓啟動"馬文計劃"（Project Maven），利用計算機視覺分析無人機影像識別目標。

如今，隨著大語言模型通過ChatGPT等界面滲入工作與生活，軍方開始采用類似模型分析監視數據。

未來趨勢何在？消費領域正邁向"代理型AI"（可聯網代執行任務）與"個性化AI"（基于隱私數據學習提供個性化服務）。軍事AI或將遵循相同路徑。喬治城大學安全與新興技術中心3月報告顯示，AI輔助決策的軍事應用激增："指揮官關注AI提升決策效能的潛力，尤其在作戰層級。"

拜登政府去年10月發布《國家安全AI備忘錄》為高風險場景設置防護機制。盡管該備忘錄未被特朗普政府正式廢除，但特朗普總統強調"美國AI競爭需更多創新、更少監管"。無論政策如何，AI正快速滲透至決策鏈高層——不再局限于行政事務，而是介入高時效、高風險的重大決策。參考來源：MIT

專知便捷查看

請關注專知智能防務公眾號（點擊上方關注） 歡迎微信掃一掃加專知助手，咨詢服務，中文資料、報告定制