🕷️
SetupAI
⚛️較早收集於 30m

Anthropic 關閉 Fable 與 Mythos 模型

Anthropic 關閉 Fable 與 Mythos 模型
PostLinkedIn
⚛️閱讀原文： Ars Technica AI
#ai-regulation#national-security#model-safetyfable,-mythosanthropicfablemythoscommerce dept

💡首個因美國政府國家安全指令而關閉的主要模型，為 AI 安全樹立了關鍵先例。

⚡ 30-Second TL;DR

有什麼變化

Anthropic 在政府干預下終止了 Fable 與 Mythos 模型。

為什麼重要

此舉顯示 AI 開發者的監管環境日益嚴峻，政府監管可能導致已部署的模型被立即關閉。企業現在必須優先考慮強大的安全性與防越獄機制，以避免類似的干預。

下一步行動

審查您模型的安全防護欄與紅隊測試協議，確保其符合新興的國家安全合規標準。

誰應關注：Founders & Product Leaders

關鍵要點

  • •Anthropic 在政府干預下終止了 Fable 與 Mythos 模型。
  • •美國商務部指出此舉涉及國家安全風險。
  • •針對 Fable 5 的「越獄」漏洞引發了具體的安全擔憂。

🧠 深度解析

Web-grounded analysis with 17 cited sources.

🔑 增強重點摘要

  • •美國商務部的指令禁止任何外國國民使用Fable 5和Mythos 5模型，無論其身在美國境內或境外，包括Anthropic自身的外籍員工，這迫使Anthropic全面停用這些模型以確保合規性。
  • •Anthropic對政府關於「越獄」漏洞的評估表示異議，聲明這是一個「狹窄、非普遍的越獄」，僅能識別輕微、先前已知的漏洞，且類似功能在其他公開部署的模型（如OpenAI的GPT-5.5）中也存在。
  • •此次停用發生在Fable 5和Mythos 5公開發布不到一週後，讓開發者和企業客戶措手不及；Fable 5是Anthropic首次將Mythos級別模型廣泛發布。
  • •商務部的行動是美國政府利用出口管制限制先進AI技術獲取、以國家安全為由的更廣泛趨勢的一部分，此前政府曾試圖讓Anthropic暫停發布這些模型但未成功。
  • •Anthropic曾與美國政府、英國AI安全研究所及第三方組織合作，對這些模型進行了數千小時的紅隊測試，但沒有發現任何普遍的越獄方法。

🛠️ 技術深入

  • Fable 5和Mythos 5基於相同的底層架構，主要區別在於輸出控制：Fable 5包含旨在阻止網路安全等高風險領域回應的分類器，而Mythos 5（供經審查的組織使用）則移除了部分限制。
  • 據報導，「越獄」技術涉及要求模型閱讀特定程式碼庫並識別軟體缺陷。
  • Anthropic表示，目前任何模型供應商都無法實現完美的越獄抵抗，且所有防護措施都容易受到非普遍越獄的影響。
  • Mythos Preview是Mythos 5的前身，是一個用於安全研究的高度先進模型，能夠發現安全漏洞和缺陷，最初僅限於透過Project Glasswing提供給一小部分公司和研究合作夥伴。
  • Claude模型採用「憲法式AI」技術進行訓練，這是Anthropic開發的一種旨在提高道德和法律合規性（AI對齊）的方法。
  • Claude模型以其長上下文處理、結構化推理能力和相對謹慎的回應而聞名。
  • 截至2026年4月，Claude Mythos Preview在程式碼優化任務中實現了約52倍的加速，展示了其在AI輔助開發方面的先進能力。

🔮 前景展望AI analysis grounded in cited sources

美國政府對前沿AI模型的監管將會更加嚴格，並可能擴大出口管制範圍。
美國商務部此次行動顯示政府願意直接干預AI模型部署，且此前已有針對AI晶片和技術的出口管制措施，預示未來可能會有更多類似的干預。
AI開發者將面臨更大的壓力來證明其模型的安全性，並可能需要更透明的紅隊測試和漏洞披露機制。
Anthropic的Fable 5在經過大量紅隊測試後仍因「越獄」漏洞被停用，這表明現有安全評估標準可能不足，促使行業對模型安全性提出更高要求。
由於出口管制，非美國公民和實體對先進AI模型的獲取將受到限制，可能導致全球AI技術發展出現分化。
美國政府的指令明確禁止所有外國國民使用Fable 5和Mythos 5，無論其身在何處，這將直接影響全球AI研究和商業應用。

⏳ 時間線

2021-01
Anthropic由前OpenAI研究人員創立，專注於AI安全。
2022-12
Anthropic發表「憲法式AI」論文，介紹其AI對齊方法。
2023-03
Claude作為AI聊天機器人首次發布。
2025-05
Anthropic發布Claude 4 Opus和Sonnet模型。
2026-04
Claude Mythos Preview發布，僅限Project Glasswing合作夥伴使用，展現出色的網路安全能力。
2026-06-09
Anthropic公開推出Claude Fable 5和Mythos 5模型。
2026-06-13
美國商務部發布出口管制指令，Anthropic隨即停用Fable 5和Mythos 5模型。
⚛️閱讀原文： Ars Technica AI
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

同主題

探索 #ai-regulation

同產品

更多關於 fable,-mythos

同來源

最新來自 Ars Technica AI

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Ars Technica AI ↗