Search

Tag: #ai-security151 results

Anthropic Mythos 漏洞獵手被稱空穴來風

Anthropic 的 Mythos 模型因卓越漏洞偵測能力而備受矚目，但因擔憂犯罪濫用而未對公眾開放。初步分析顯示其並非如傳聞般強大或危險。駭客新創 CEO 將相關未授權存取稱為「無關緊要」。

The Register - AI/MLMedia•Apr 22#model-hype #ai-security

Google 推出更多 AI 安全代理來對抗 AI 威脅，雲端 COO Francis deSouza 表示：「用 AI 對抗 AI。」新服務確保這些代理不會造成混亂。

Mozilla 測試 Anthropic 的 Mythos AI 漏洞偵測工具，在 Firefox 中發現 271 個漏洞。然而，所有漏洞皆為人類可察覺的。Mozilla CTO 稱這是開發者掌控資安的轉捩點。

專家多年警告惡意深度偽造—AI生成假影片、圖像或音頻。技術進步與廉價易用生成模型使其廣泛可得。惡意部署現已發生。

日本自民黨開始検討組成日本版「Project Glasswing」，以對抗「Claude Mythos Preview」等Mythos級高度AI帶來的威脅。此專案以金融領域為重點，目標強化國家重要基礎設施的防禦。

Cal 因 AI 驅動的駭客風險，將其旗艦開源程式轉為專有模式。公司比喻公開程式碼如同交出銀行金庫藍圖。這反映先進 AI 帶來的安全威脅日益加劇。

GitHub 推出 Secure Code Game，教導開發者找出並利用代理式 AI 漏洞。遊戲包含五個漸進式挑戰，基於真實世界情境。超過 10,000 名開發者已使用此免費開源工具提升安全技能。

安全公司 Noma 揭露 Grafana AI 助手中的「GrafanaGhost」間接提示注入漏洞，讓攻擊者可將敏感資料洩露至外部伺服器。駭客在 AI 解析的外部網頁中嵌入惡意指令，繞過安全機制且無明顯錯誤提示。Grafana Labs 已迅速修補，強調無利用證據且需使用者權限及多次觸發。

AI 代理正演變為系統中高度權限身份。此發展造成傳統特權存取管理 (PAM) 控制無法應對的安全缺口。常駐權限時代已終結。

Meta 因 Mercor 發生安全事件而暫停合作。多家主要 AI 實驗室正在調查此資料外洩事件，可能暴露 AI 模型訓練方法的關鍵資料。Mercor 是 AI 開發的重要資料供應商。

Page 9 of 16