Search

Tag: #ai-vulnerabilities6 results

美國財政部尋求存取 Anthropic Mythos 尋找缺陷

美國財政部技術團隊正尋求存取 Anthropic PBC 的 Mythos AI 模型。目的是在模型中搜尋漏洞與缺陷。此資訊來自一位熟悉情況人士。

Anthropic 的 Mythos 模型在主要作業系統和瀏覽器中發現數千個零日漏洞。AI 工具即將賦予攻擊者力量，將利用窗口壓縮至數小時，而修復卻滯後數月。GitLab 倡導將安全嵌入 CI/CD 管線，以自動化修復並加速分類。

發現新的提示注入攻擊，可迫使防護嚴密的 AI 機器人透過巧妙提示洩露秘密。文章比喻為釣魚愚蠢人類，強調這是每週反覆出現的問題。提示注入仍是 AI 系統頑固的漏洞。

AI 編碼助理的使用量激增，但 AI 生成程式碼的漏洞數量也隨之上升。隨著採用率成長，AI 工具本身正引入更多安全漏洞。

Veracode年度軟體安全狀態報告，分析160萬應用程式，顯示製造的漏洞多於修復的漏洞。修復差距因AI驅動的高速開發而擴大。全面安全變得難以實現。

BBC 文章展示生成式 AI 如 ChatGPT 迅速回應新利基部落格文章，視為「駭客」行為。TNW 認為此敘事過度簡化 AI 的即時網路整合。挑戰 AI 易被操弄的刻板印象。