緩解 Agentic 環境中 AGENTS.md 注入攻擊

🔑 增強重點摘要

• •AGENTS.md 注入攻擊利用了 AI 代理在讀取專案目錄時，會將該檔案視為系統提示（System Prompt）或指令來源的漏洞，進而誘導代理執行未經授權的操作。
• •此類攻擊屬於「間接提示注入」（Indirect Prompt Injection），攻擊者透過在公開儲存庫中植入惡意 AGENTS.md 檔案，當開發者的自動化代理工具掃描該儲存庫時，攻擊即被觸發。
• •NVIDIA 提出的緩解策略包括對代理輸入進行嚴格的沙盒化（Sandboxing）、實施基於權限的存取控制（RBAC），以及在處理外部指令前進行語意分析與過濾。

🛠️ 技術深入

• •攻擊機制：利用 AI 代理對特定檔案（如 AGENTS.md）的自動解析機制，將惡意指令注入到代理的上下文視窗（Context Window）中。
• •緩解架構：採用「人機回圈」（Human-in-the-loop）驗證機制，要求代理在執行高風險操作（如修改程式碼、發送 PR）前必須獲得開發者確認。
• •輸入驗證：實作針對提示詞的結構化檢查，將 AGENTS.md 內容視為不可信的外部資料，並透過專用的安全過濾層（Guardrails）進行清理。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線