🐯較早收集於 33m

美國政府祭出出口管制,Anthropic 下架 Claude Fable/Mythos 5

美國政府祭出出口管制,Anthropic 下架 Claude Fable/Mythos 5
PostLinkedIn
🐯閱讀原文: 虎嗅

💡美國政府強制 Anthropic 下架最新模型,了解此事件如何影響你的 AI 基礎設施策略。

⚡ 30-Second TL;DR

有什麼變化

美國商務部因越獄風險,要求 Anthropic 切斷外籍人士對 Fable/Mythos 5 的存取權限。

為什麼重要

此監管行動迫使開發者重新評估對單一閉源前沿模型的依賴,並加速推動模型無關(model-agnostic)的系統架構設計。

下一步行動

在應用程式中建置模型無關的路由層,以便在服務中斷時能動態切換前沿模型與開源權重備援方案。

誰應關注:Developers & AI Engineers

關鍵要點

  • 美國商務部因越獄風險,要求 Anthropic 切斷外籍人士對 Fable/Mythos 5 的存取權限。
  • Anthropic 為配合指令已全球下架該模型,但 Claude Opus 8 等其他模型不受影響。
  • 此事件凸顯了 AI 實驗室與美國政府在國家安全與供應鏈風險議題上的緊張關係。
  • 業界專家認為,這預示著政府未來將更頻繁地干預前沿 AI 模型的部署。

🧠 深度解析

Web-grounded analysis with 15 cited sources.

🔑 增強重點摘要

  • 美國商務部的指令明確要求Anthropic暫停所有外籍人士對Fable 5和Mythos 5的存取,無論其身在美國境內或境外,甚至包括Anthropic的外籍員工。
  • Anthropic表示,政府僅提供了「潛在的狹窄、非普遍性越獄」的口頭證據,並質疑其嚴重性,指出該技術利用了其他公開可用模型(如OpenAI的GPT-5.5)也能發現的已知輕微漏洞。
  • 此事件發生在美國總統唐納·川普簽署一項行政命令之後約10天,該命令旨在建立一個自願性框架,要求聯邦政府在最先進的AI系統公開發布前,對其國家安全風險進行為期一個月的審查。
  • Fable 5被設計為包含嚴格的安全防護措施,例如安全分類器會將與網路安全、生物學、化學和健康相關的有害提示轉發給Claude Opus 4.8,此類轉發在不到5%的會話中觸發。而Mythos 5則缺少這些分類器,僅透過「Project Glasswing」向經過審查的網路安全和關鍵基礎設施營運商有限發布。
  • 此舉標誌著美國政府首次直接針對先進AI模型本身而非其底層晶片或工具實施出口管制,顯示出監管範圍的顯著擴大。

🛠️ 技術深入

  • Claude Fable 5: Anthropic最廣泛發布的強大模型,專為高要求推理和長期代理工作而設計。它內建安全分類器,可拒絕請求,並將與網路安全、生物學、化學和健康相關的提示轉發至Claude Opus 4.8。
  • Claude Mythos 5: 與Fable 5具有相同功能,但不包含安全分類器。它僅透過「Project Glasswing」向經審查的客戶(如網路防禦者和關鍵基礎設施營運商)有限發布。
  • 共同規格: 兩款模型預設均提供100萬個token的上下文窗口,每個請求最多可輸出128k個token。其知識截止日期為2026年1月。
  • 自適應推理: Fable 5被描述為採用自適應推理或思維,意味著它會動態地將更多內部資源分配給較困難的任務。
  • 安全防護: Anthropic為Fable 5採用了「深度防禦」策略,包括在發布前進行數千小時的紅隊測試,並實施30天數據保留以檢測新型攻擊(這些數據不用於模型訓練)。
  • 越獄漏洞: 政府擔憂的是一種繞過Fable 5安全防護的方法,特別是用於識別軟體漏洞。Anthropic表示,該技術利用了其他公開模型也能發現的輕微已知漏洞。

🔮 前景展望AI analysis grounded in cited sources

美國政府將對前沿AI模型的部署實施更嚴格的預先審查和出口管制。
此事件標誌著政府首次直接干預商業AI模型的部署,且發生在川普政府簽署AI系統國家安全審查行政命令之後,預示著未來監管力道將持續增強。
AI實驗室與政府之間在國家安全與技術開放性方面的緊張關係將加劇。
Anthropic公開表示不同意政府的處理方式,並指出其他模型也存在類似能力,這反映了業界對監管標準和透明度的擔憂。
AI模型開發商將被迫實施更嚴格的用戶身份驗證和地理限制措施。
美國政府明確要求限制外籍人士的存取,導致Anthropic全球下架模型,這可能促使其他開發商預防性地加強用戶存取控制。

時間線

2021-02
Anthropic 成立,由前OpenAI員工創立,專注於AI安全研究。
2023-03
Anthropic 正式推出其AI助手Claude。
2024-03
Anthropic 推出 Claude 3 模型系列(Haiku、Sonnet 和 Opus)。
2025-02
美國國防部將 Anthropic 列為供應鏈風險,此前 Anthropic 拒絕美國軍方將其AI模型用於國內監控和全自動武器系統。
2026-06-09
Anthropic 廣泛發布 Claude Fable 5,並透過「Project Glasswing」有限發布更先進的 Mythos 5。
2026-06-12
美國商務部發布出口管制指令,要求 Anthropic 暫停 Fable 5 和 Mythos 5 對所有外籍人士的存取,導致 Anthropic 全球下架該模型。

📰 事件追蹤

📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: 虎嗅