穩定代理控制：網路防禦LLM工具中介架構

💡LLM代理在對抗網路防禦中具Lean 4正式穩定保證（58字）

⚡ 30-Second TL;DR

有什麼變化

工具中介設計，包含Stackelberg最佳回應和攻擊圖原語

為什麼重要

推進高風險網路安全中具正式保證的可部署代理LLM，減少對啟發式代理依賴。證明架構無論LLM能力如何皆確保穩定，擴大安全AI應用。

下一步行動

下載arXiv:2605.03034並為您的代理LLM原型化工具中介介面。

誰應關注：Researchers & Academics

AI-generated analysis for this event.

•該架構引入了『形式化驗證代理』（Formal Verification Agent）概念，將 Lean 4 證明器直接整合進 LLM 的決策迴圈中，解決了傳統 LLM 在安全關鍵任務中產生幻覺導致配置錯誤的問題。
•研究採用了基於控制理論的『輸入-狀態穩定性』（ISS）框架，將網路防禦策略視為動態系統，確保即使在攻擊者採取自適應策略時，防禦配置也不會進入不穩定狀態。
•該系統特別針對 SOC（安全運營中心）的『警報疲勞』問題，透過將複雜的 EDR 策略自動化映射至有限動作目錄，顯著降低了人類分析師在應對大規模攻擊時的認知負荷。

•核心架構：採用 Stackelberg 博弈模型，其中防禦者（LLM 代理）作為領導者，攻擊者作為追隨者，透過攻擊圖（Attack Graph）進行狀態轉移預測。
•穩定性證明：利用 Lean 4 證明器對複合 Lyapunov 函數進行自動化驗證，確保在任何可能的攻擊路徑下，系統狀態（EDR 策略配置）始終收斂於安全區域。
•模型整合：系統在決策層使用 Claude Sonnet 4 進行高階策略規劃，並利用 Haiku 4.5 執行低延遲的動作映射，實現了效能與精確度的平衡。
•動作空間：限制在預定義的 EDR 動作目錄（如隔離主機、封鎖 IP、重置憑證），避免了 LLM 直接生成任意腳本帶來的安全風險。

形式化驗證將成為企業級安全代理的標準配置。

隨著 LLM 在關鍵基礎設施中的應用增加，僅靠提示工程無法滿足合規性與安全性要求，必須引入數學證明機制。

SOC 自動化將從基於規則的系統轉向基於控制理論的自適應系統。

傳統靜態規則無法應對現代攻擊者的動態演變，基於 Lyapunov 穩定性的控制架構能提供更強的防禦韌性。

AI 週報

閱讀本週精選 AI 大事摘要 →

同主題

探索 #agentic-llms

同產品

更多關於 stable-agentic-control

同來源

最新來自 ArXiv AI

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ArXiv AI ↗