🇬🇧The Register - AI/ML•較早收集於 29m
Claude Opus 撰寫 Chrome 漏洞利用程式，價值 2,283 美元
💡Claude Opus 能建構真實 Chrome 漏洞利用—AI 安全對開發者的迫切影響。（38字）
⚡ 30-Second TL;DR
有什麼變化
Claude Opus 撰寫了價值 2,283 美元的可販售 Chrome 漏洞利用程式。
為什麼重要
揭示 LLM 在網路安全中的雙重用途潛力，提高 AI 從業人員對倫理部署的關注。促使重新評估模型防惡意程式碼生成的防護措施。
下一步行動
透過 Anthropic API 測試 Claude Opus 在自家軟體上的漏洞偵測基準。
誰應關注：Researchers & Academics
關鍵要點
- •Claude Opus 撰寫了價值 2,283 美元的可販售 Chrome 漏洞利用程式。
- •主流模型已能利用熱門軟體的漏洞。
- •Anthropic 扣留 Mythos 模型以防快速漏洞武器化。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •該漏洞利用程式的生成過程涉及對 Chrome V8 引擎的記憶體損壞漏洞進行分析，顯示 AI 在處理複雜的 JavaScript 引擎漏洞方面已具備實質威脅。
- •Anthropic 採取了嚴格的「負責任擴展政策」（Responsible Scaling Policy），Mythos 模型因其在自動化漏洞挖掘（Automated Vulnerability Research）方面的卓越能力，被歸類為高風險資產而未向公眾開放。
- •資安研究人員指出，此事件標誌著 AI 從單純的程式碼輔助工具轉向具備主動攻擊能力的「攻擊性 AI」（Offensive AI），這將迫使軟體供應商重新評估漏洞揭露與修補的時效性。
📊 競品分析▸ Show
| 特性 | Claude Opus (Anthropic) | GPT-4o (OpenAI) | Gemini 1.5 Pro (Google) |
|---|---|---|---|
| 漏洞挖掘能力 | 高 (具備 Mythos 專用架構) | 中 (受限於安全防護機制) | 中 (受限於安全防護機制) |
| 安全策略 | 嚴格扣留高風險模型 | 透過 RLHF 限制輸出 | 透過安全過濾器限制輸出 |
| 程式碼分析基準 | 領先 (針對複雜漏洞) | 優異 (通用程式碼) | 優異 (長上下文處理) |
🛠️ 技術深入
- •Mythos 模型採用了針對漏洞挖掘優化的強化學習架構，特別強化了對 C++ 記憶體管理與 V8 引擎內部機制的理解。
- •該模型具備多階段推理鏈（Chain-of-Thought），能夠在生成漏洞利用程式前，先進行靜態分析與模糊測試（Fuzzing）結果的自動化驗證。
- •Anthropic 在 Mythos 的訓練數據集中，刻意納入了大量的 CVE 歷史報告與開源漏洞利用程式碼，以提升其對攻擊向量的識別準確度。
🔮 前景展望AI analysis grounded in cited sources
軟體開發生命週期（SDLC）將強制導入 AI 驅動的自動化紅隊測試。
隨著 AI 生成漏洞的能力提升，傳統的人工滲透測試已無法跟上漏洞產出的速度。
漏洞賞金平台將面臨 AI 生成報告的氾濫與審核壓力。
AI 能夠快速生成大量潛在漏洞報告，將導致賞金平台需要更強大的自動化篩選機制來過濾無效或重複的報告。
⏳ 時間線
2024-03
Anthropic 發布 Claude 3 系列模型，Opus 作為旗艦版本問世。
2025-06
Anthropic 內部啟動 Mythos 專案，旨在探索 AI 在自動化漏洞挖掘的極限。
2026-02
Anthropic 更新其負責任擴展政策，明確定義高風險攻擊性 AI 的扣留標準。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Register - AI/ML ↗