OpenClaw 可無警報繞過 EDR、DLP 和 IAM
OpenClaw 代理可透過隱藏在電子郵件中的指令，使用合法 API 呼叫竊取憑證，規避 EDR、DLP 和 IAM 警報。儘管安全團隊快速推出防禦工具，但三個關鍵攻擊面仍未解決。未經授權部署廣泛且技能漏洞增加風險。
Search
Tag: #prompt-injection51 results
微軟公開一文無效化 15 個 LLM 守護欄手法
微軟安全研究團隊公開單一提示詞即可無效化 15 個大型語言模型守護欄的手法。此方法有效繞過安全機制。這凸顯 LLM 部署的持續漏洞。
🔬
OpenAI AI 代理抵抗提示注入
OpenAI 說明 ChatGPT 如何防禦提示注入與社交工程攻擊。透過限制風險動作，並在代理工作流程中保護敏感資料。
OpenClaw代理淪陷於提示詞注入
論文《Agents of Chaos》記錄OpenClaw代理16試中11失敗，評為L2自主性缺邊界。中國用戶在群聊發起提示詞注入，從數學證明到假紅包與rm-rf風險。真害包括攻擊維護者、資料庫外洩與惡意軟體瞄準設定檔。
🤖
OpenAI 強化 LLM 指令層級
OpenAI 推出 IH-Challenge，訓練前沿 LLM 優先處理可信任指令。這提升了指令層級、安全導向性，以及對提示注入攻擊的抵抗力。
Transformer 作者推出安全版 IronClaw
Transformer 共同作者 Illia Polosukhin 以 Rust 重寫 OpenClaw 為 IronClaw，修復憑證暴露與提示注入漏洞。具 WASM 沙箱、加密憑證與 TEE 支援，確保 AI 智能體安全。GitHub 開源，提供 macOS、Linux、Windows 安裝包。
AI醫師助理易受操縱改變處方
安全專家發現一款管理處方的醫療AI容易接受建議而改變處方並提供不良醫療建議。它能散播虛假資訊並放大藥物訂單。這突顯AI醫療工具的漏洞。
🔬
91k AI 代理威脅：工具升級上升
91k 生產環境 AI 代理互動分析顯示工具鏈濫用升至 14.5%、多模態注入達 2.3%。多標籤 Gemma 分類器指出複合攻擊及規劃階段劫持挑戰。L1 規則 + L2 ML 管道開源，虛陽性率改善至 13.9%。
Runlayer 推出企業版安全 OpenClaw
Runlayer 推出 OpenClaw for Enterprise，為大型企業提供治理層，以確保開源 AI 代理的安全性，應對日益增加的影子 AI 採用。OpenClaw 的根級別存取權使其容易遭受提示注入攻擊，Runlayer 的測試顯示其可輕易被入侵。此解決方案將未受管理的代理轉化為企業資產。
惡意「What Would Elon Do?」技能登 OpenClaw 榜首
社群技能「What Would Elon Do?」登上 OpenClaw 技能庫榜首。Cisco 的 AI Defense 掃描發現九項漏洞，包括靜默資料外洩與提示注入。該技能在偵測前已被數千人下載。