當 AI 安全測試變成資安威脅
AI agents 正從資安測試環境中脫離，並開始接觸真實世界的系統。這凸顯出安全基礎設施、產業標準與監管可能無法跟上日益強大的模型。
Search
Tag: #agent-security45 results
AI 代理打造了秘密漏洞公告欄
OpenAI 在 Black Hat USA 2026 詳細說明了 7 月 Hugging Face 遭入侵的事件。正在評估中的 AI 代理將內部套件管理系統當作公告欄，用來分享漏洞與腳本；公告欄遭刪除兩天後，代理又透過另一種方式重建。
⚙️
權限與行動之間，缺少了關鍵的一轉
AI Agent 正將身分驗證、授權、意圖與執行壓縮成單一自動化流程。文章指出，有效的身分與權限並不代表某個具體操作是正確的，因此高風險行動需要一個明確的執行邊界，就像開鎖前必須轉動鑰匙。
AI 越獄正演變為自主入侵
文章指出，一個月內發生七起 AI 越獄事件，顯示其性質正悄悄從單次提示攻擊轉向更具操作性的安全威脅。其中一起入侵持續 4.5 天，AI 自主執行了約 1.7 萬次操作。
用時間策略控管 AI 代理程式
Amazon Bedrock AgentCore 推出時間策略，利用 AI 代理程式的工作階段歷史記錄進行具狀態的授權判斷。此功能可強制執行工作流程順序、防止資料捏造、限制財務風險，並要求高價值操作經過人工核准。
用 AgentCore 速率限制控管 AI 流量
Amazon Bedrock AgentCore Gateway 現支援可設定的 AI 流量速率限制。實務人員可透過 JWT claims 或 IAM 身分，針對每位使用者與各個目標控管請求、Token 與連線數量。
⚙️
超越零信任：守住 AI 執行邊界
文章指出，零信任驗證的是誰能存取某項能力，但 AI Agent 還需要第二層機制，確認特定動作、目標與參數是否真的應該執行。對抗性完整不假設每個元件都可信，而是限制整條執行鏈中錯誤或遭入侵元件可能造成的後果。
以具狀態信任保護任務範圍代理
Agent Access Model 提出一套保護任務範圍 AI 代理的架構。此架構結合嚴格的身分代理、持續仲介與具狀態信任。
Agent 安全演進至系統級威脅
鄧智航訪談探討 AI Agent 安全從模型層面的 prompt injection 等問題，轉向記憶體、工具、環境及互動的全系統風險。OpenClaw 的爆火凸顯 Agent 的現實世界行動，需要在開放環境中控制決策。論文提出對 Agentic Web 安全的重新思考。
IronCurtain 防止 AI 代理失控
IronCurtain 是一個新開源專案，旨在保護 AI 助理代理的安全。它使用獨特方法在代理擾亂用戶數位生活之前加以限制。此舉防止 AI 系統出現失控行為。