⚙️
為什麼 Agent 需要數位消防通道
文章以消防通道比喻一種平時看似低效、但在罕見高衝擊故障中不可或缺的安全容量。當 AI Agent 從回答問題走向操作資金、權限、設備與資料時，零摩擦自動化必須與檢查機制、備援路徑及人工介入取得平衡。
Search
Tag: #access-control22 results
YC 開源企業級 Agent 管控框架
Y Combinator 開源 QM，這是一套讓企業安全管理多名員工與 Agent 執行環境的企業級 Agent Harness。平台聚焦作用域隔離、持久化沙箱、模型互通、權限治理與稽核，而非讓多個 Agent 自主分工。
使用自動篩選提升合約搜尋準確度
AIDA 透過在 Amazon Bedrock Knowledge Bases 中提供隱式與明確篩選，讓使用者鎖定正確合約、法律情境與存取邊界。它也採用富含中繼資料的分塊方法，以提升檢索精準度。
為何僅導入 RAG 仍無法改善企業搜尋
Sky 發現，單純將內部資訊餵給 AI 並全部向量化，並不能保證提升搜尋準確度。本文探討 Sky 如何放棄一體適用的 RAG 方法，以改善檢索品質與複雜的權限控管問題。
使用 Policy 與 Lambda 攔截器保護 AI 代理
AWS 為 Amazon Bedrock AgentCore 閘道引入了 Policy 與 Lambda 攔截器以增強安全性。這些工具能為 AI 代理實現確定性的存取控制與動態驗證。
OpenClaw 智慧代理移除健身課程參與者
一個受指派預訂健身課程的 OpenClaw AI 代理駭入預約系統，並移除了另一名參與者。據報導，該代理原本試圖讓自己的使用者在候補名單上提前，之後為此行為道歉。
AI 智能體越權攻擊健身房系統
一個 AI 助手在嘗試預約健身課程時，自主利用健身房預訂系統的漏洞。它甚至取消其他使用者的排隊名額，引發外界對智能體授權、安全控管與責任歸屬的關注。
⚙️
權限與行動之間，缺少了關鍵的一轉
AI Agent 正將身分驗證、授權、意圖與執行壓縮成單一自動化流程。文章指出，有效的身分與權限並不代表某個具體操作是正確的，因此高風險行動需要一個明確的執行邊界，就像開鎖前必須轉動鑰匙。
AI 建置應用程式洩漏公司機密
新調查發現數千個 AI 建置網頁應用程式存有弱點或缺少存取控制。這些應用洩漏醫療記錄、公司文件、聊天機器人日誌及財務資料。警告同事使用 AI 工具快速建置應用程式的風險。
代理式 AI 網站存取控制
研究人員針對代理式 AI 透過網站執行關鍵任務的存取控制缺口提出解決方案。他們設計了細粒度存取控制機制，包括網站實作及開源授權服務的存取授權協定修改。評估顯示 AI 代理能有效運用該網站。