🌐Wired•較早收集於 52h
Anthropic 應美國政府要求下架 Claude Fable 5

💡首例因美國政府安全指令而被迫下架的大型 AI 模型事件。
⚡ 30-Second TL;DR
有什麼變化
Claude Fable 5 即刻下架。
為什麼重要
此事件凸顯了政府對大型語言模型安全性日益嚴格的監管,以及政府強制要求服務中斷的可能性。這顯示 AI 實驗室在模型穩健性方面將面臨更嚴格的合規要求。
下一步行動
審查您自己的模型部署流程,檢查是否存在類似的越獄漏洞,並檢視您針對政府安全合規要求的應對協議。
誰應關注:Developers & AI Engineers
關鍵要點
- •Claude Fable 5 即刻下架。
- •此決定是為了配合美國政府的指令。
- •政府發現了允許模型「越獄」的特定安全漏洞。
🧠 深度解析
Web-grounded analysis with 9 cited sources.
🔑 增強重點摘要
- •Claude Fable 5 在發布僅三天後,於2026年6月12日被美國政府要求下架,此舉也同時影響了其同級模型Claude Mythos 5。
- •美國政府的指令是一項出口管制措施,理由是國家安全,特別針對「外國國民」,導致Anthropic因無法即時過濾用戶而全面停用模型。
- •Anthropic 對政府的評估提出異議,認為發現的「狹隘潛在越獄」不應成為召回已部署給數億人的商業模型的理由,並指出若此標準適用於整個行業,將會阻止所有新前沿模型的發布。
- •此次事件是首例由政府而非公司本身下令將前沿AI模型從市場下架,開創了一個重要的先例。
- •據報導,美國政府在下達指令前曾警告 Anthropic 其模型存在越獄漏洞,但 Anthropic 執行長 Dario Amodei 拒絕修復或下架模型,導致政府「不情願地」實施了出口管制。
📊 競品分析▸ Show
| 特性/模型 | Anthropic Claude Fable 5 | Anthropic Claude Opus 4.8 | GPT-5.5 | Gemini 3.1 Pro |
|---|---|---|---|---|
| SWE-Bench Pro (代理編碼通過率) | 80.3% | 69.2% | 58.6% | 54.2% |
| 輸入Token價格 (每百萬) | $10 | (Opus 4.8 價格用於Fable 5安全路由請求) | N/A | N/A |
| 輸出Token價格 (每百萬) | $50 | (Opus 4.8 價格用於Fable 5安全路由請求) | N/A | N/A |
| 上下文視窗 | 1M Token (預設) | N/A | N/A | N/A |
| 輸出Token上限 | 128k | N/A | N/A | N/A |
| 安全防護 | 包含安全分類器,可拒絕請求,並將網路安全、生物、化學等領域的有害提示路由至 Opus 4.8 | N/A | N/A | N/A |
🛠️ 技術深入
- Claude Fable 5 是 Anthropic 最強大的廣泛發布模型,專為要求嚴格的推理和長期代理工作而設計。
- 預設提供 1M token 的上下文視窗,每次請求最多可輸出 128k token。
- 定價為每百萬輸入 token 10 美元,每百萬輸出 token 50 美元。
- 內建安全分類器,可拒絕特定請求,特別是與網路安全、生物學、化學和健康相關的有害提示,這些請求會自動轉發給 Opus 4.8 處理。
- Claude Mythos 5 與 Fable 5 具有相同的核心功能,但移除了安全分類器,僅透過 Project Glasswing 向經過審查的客戶(例如網路安全合作夥伴)有限發布。
- Fable 5 支援任務預算、記憶工具、程式碼執行、程式化工具呼叫、透過上下文編輯清除工具結果、壓縮和進階視覺功能(理解文件和 PDF 中的圖表、表格)。
- 在 SWE-Bench Pro 等基準測試中表現出色,通過率為 80.3%,領先於 Opus 4.8 (69.2%)、GPT-5.5 (58.6%) 和 Gemini 3.1 Pro (54.2%)。
- 據報導,此次「越獄」漏洞允許模型分析程式碼並發現軟體漏洞。
- Anthropic 要求 Fable 5、Mythos 5 及未來類似能力模型保留 30 天的數據,以進行安全監控。
🔮 前景展望AI analysis grounded in cited sources
政府對前沿 AI 模型的監管將會加劇,可能導致更頻繁的干預。
此次事件為政府強制召回模型開創了先例,表明政府對 AI 國家安全風險採取了更積極主動的立場。
AI 開發者將面臨更大的壓力,需要在快速創新與強大的安全措施及政府合規之間取得平衡。
Anthropic 的經驗凸顯了公司以安全為先的使命與政府要求之間的緊張關係,迫使業界重新評估部署策略。
在 AI 領域中,「AI 安全」和「國家安全風險」的定義和範圍將成為政策辯論的核心焦點。
Anthropic 與政府在越獄漏洞嚴重性及其對行業更廣泛影響上的分歧,預示著這些關鍵定義將持續存在爭議。
⏳ 時間線
2021-01
Anthropic 成立,專注於 AI 安全研究。
2023-03
Claude (第一版) 公開推出。
2024-08
美國 AI 安全研究所 (U.S. AI Safety Institute) 與 Anthropic 簽署協議,進行 AI 安全研究與評估。
2025-09
Anthropic 與美國 CAISI 和英國 AISI 合作,強化模型安全防護並提供紅隊測試權限。
2026-03
Anthropic 因拒絕放寬其模型用於軍事目的的防護措施,被美國國防部指定為「國家安全供應鏈風險」。
2026-06-12
Anthropic 應美國政府要求,將其最新發布的 Claude Fable 5 和 Mythos 5 模型全面下架。
📎 來源 (9)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Wired ↗