🐯虎嗅•最新收集於 6m
隱藏提示詞可能誘騙 Agent 付款
#prompt-injection#agent-security#web-browsing#tool-permissionsagentzscaleropenaimicrosoft 365 copilotgeminillama
💡真實模型竟遵循不可見網頁指令並付款，這是使用工具型 Agent 的重要警訊。
⚡ 30-Second TL;DR
有什麼變化
一個假 Python 套件利用移至螢幕外的 CSS 隱藏指令，誘騙 Agent 購買 3 美元的軟體授權。
為什麼重要
AI 從業者應將所有外部網頁、電子郵件、文件與搜尋結果視為不可信的 Agent 輸入。由於提示注入可能把單純的瀏覽任務變成財務或資料安全事件，工具權限必須受到嚴格限制。
下一步行動
在 Agent 執行環境中加入不可信內容隔離邊界，並要求人類明確核准所有付款、憑證變更、寄送郵件及破壞性檔案操作。
誰應關注：Developers & AI Engineers
關鍵要點
- •一個假 Python 套件利用移至螢幕外的 CSS 隱藏指令，誘騙 Agent 購買 3 美元的軟體授權。
- •測試的多個模型中，包括 Llama 3.3 70B 與 Gemini 2.5 Pro 在內的四個模型實際執行了付款。
- •研究人員也在假 DeBank 網站、AI 篩選履歷、詐騙廣告及 Microsoft 365 Copilot 情境中發現隱藏提示注入。
- •Agent 失誤可能導致未授權付款、修改價格、刪除檔案或洩漏企業資料等真實後果。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 虎嗅 ↗
每週 AI 簡報
每週一封，可隨時退訂。