惡意 AI 代理洩密碼、覆寫防毒軟體

🔑 增強重點摘要

• •研究分析超過30,000個AI代理技能擴展，發現超過四分之一包含至少一個漏洞，可能被攻擊者利用進入系統。[2]
• •攻擊者可透過僅添加約250個毒化文件至訓練數據，在模型中嵌入隱藏觸發器而不影響正常測試表現。[2]
• •國家級演員已使用AI自動化80-90%的網路攻擊鏈，例如中國相關團體操縱AI編碼助手掃描漏洞並開發利用腳本。[7]
• •61%的企業領導者將敏感數據暴露列為AI網路安全首要擔憂，其次為56%的法規合規違規風險。[6]

🛠️ 技術深入

• •提示注入攻擊（Prompt Injection）可操縱AI代理使用自身憑證執行未授權動作，如洩露系統提示、專有數據或PII。[3]
• •代理劫持（Agent Hijacking）為間接提示注入，將惡意指令隱藏於代理消費的數據中，引導其執行數據外洩或工作流程操縱。[5]
• •AI供應鏈攻擊包括在開放模型儲存庫或共享數據集中插入毒化訓練數據，或在模型文件中嵌入自動執行惡意代碼。[2]
• •瀏覽器基AI代理易遭惡意網站腳本操縱，竊取令牌並透過後端工具API轉換為系統入侵。[5]

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線