💼VentureBeat•最新收集於 29m
Brex 在網路層保護 AI Agent
💡了解 Brex 如何在不限制 AI Agent 程式碼執行能力的情況下提升安全性。
⚡ 30-Second TL;DR
有什麼變化
Brex 將 AI Agent 視為虛擬員工，可能需要使用電子郵件、Slack、會議及廣泛的任務能力。
為什麼重要
Brex 的方法可能讓企業保留自主 Agent 的程式碼彈性，同時限制其外洩資料或存取未授權服務的能力。這也凸顯依賴 LLM 進行即時安全判斷所帶來的營運挑戰。
下一步行動
在測試環境中評估 CrabTrap，將 Agent 的對外 HTTP 流量導ผ่าน其中，並使用已核准與惡意請求測試政策判斷結果。
誰應關注：Enterprise & Security Teams
關鍵要點
- •Brex 將 AI Agent 視為虛擬員工，可能需要使用電子郵件、Slack、會議及廣泛的任務能力。
- •CrabTrap 將安全邊界從快速變動的 Agent 程式碼，轉移至可觀測的對外 HTTP 流量。
- •LLM 充當判斷器，評估網路請求是否符合 Agent 獲授權的用途。
- •這套設計假設 Agent 可能已遭入侵，並在容器外部提供額外防禦層。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •CrabTrap 的設計核心在於解決 AI Agent 在執行環境中難以進行傳統靜態程式碼分析（Static Analysis）的痛點，轉而採用動態網路流量審計。
- •該工具特別針對 OpenClaw 等框架進行優化，旨在解決 AI Agent 在存取企業內部 API 時可能發生的權限越界（Privilege Escalation）問題。
- •Brex 將此開源專案定位為『零信任架構（Zero Trust）』在 AI 時代的延伸，強調即使 Agent 內部邏輯被惡意注入，網路層仍能攔截異常行為。
- •CrabTrap 支援與現有的企業安全資訊與事件管理（SIEM）系統整合，將 AI Agent 的異常請求記錄自動匯出以供資安團隊分析。
- •此專案反映了 Brex 在金融科技領域對於 AI 自動化流程的高度依賴，促使其開發專屬防禦工具以降低自動化財務操作的風險。
📊 競品分析▸ Show
| 比較項目 | CrabTrap (Brex) | 傳統 API Gateway (如 Kong/Apigee) | AI 安全平台 (如 Lakera/Robust Intelligence) |
|---|---|---|---|
| 核心機制 | 基於 LLM 的流量語意分析 | 基於規則與路徑的過濾 | 基於模型輸入/輸出過濾 (Prompt Injection) |
| 部署位置 | 容器外部 (Sidecar/Proxy) | 網路邊緣 | 應用程式層 (SDK/API) |
| 主要用途 | 針對 AI Agent 的行為審計 | 傳統 API 流量管理 | 防止模型被攻擊 (Jailbreak) |
🛠️ 技術深入
- CrabTrap 採用 Sidecar 模式部署，作為 AI Agent 容器的網路代理，攔截所有出站 HTTP 請求。
- 核心判斷引擎利用輕量級 LLM 對請求的 URL、Header 及 Body 進行語意分析，比對預先定義的『Agent 角色政策 (Role-based Policy)』。
- 支援動態政策更新，允許資安團隊在不重啟 Agent 的情況下調整其存取權限。
- 具備請求延遲緩衝機制，在 LLM 進行判斷時暫停流量，確保安全性檢查完成後才放行。
🔮 前景展望AI analysis grounded in cited sources
AI Agent 安全防禦將從應用程式內部轉向網路基礎設施層。
隨著 Agent 複雜度增加，程式碼層級的防禦已難以跟上，網路層的語意分析將成為標準安全架構。
LLM 驅動的網路防火牆將取代傳統的 WAF。
傳統 WAF 無法理解 AI Agent 的意圖，具備語意理解能力的防火牆能更精準地識別異常行為。
⏳ 時間線
2025-06
Brex 開始大規模導入 AI Agent 處理內部財務自動化流程。
2026-02
Brex 內部資安團隊識別出 AI Agent 在網路存取控制上的潛在風險。
2026-07
Brex 正式對外開源 CrabTrap 專案。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： VentureBeat ↗