📰The Verge•較早收集於 21m
Amazon 研究促使白宮對 Anthropic Fable 發布禁令
💡了解 AI 安全研究如何直接影響政府的出口管制與模型存取權限。
⚡ 30-Second TL;DR
有什麼變化
Amazon 研究人員發現透過特定提示詞可讓 Fable 5 產生有助於網路攻擊的資訊。
為什麼重要
此事件凸顯了 AI 安全研究與國家安全政策之間日益緊密的關聯。這顯示大型雲端服務供應商正積極審核前沿模型，並導致政府對模型部署實施更嚴格的監管。
下一步行動
審查您自己的 LLM 部署流程，檢查是否存在可能導致未經授權數據外洩的提示詞注入漏洞。
誰應關注：Researchers & Academics
關鍵要點
- •Amazon 研究人員發現透過特定提示詞可讓 Fable 5 產生有助於網路攻擊的資訊。
- •執行長 Andy Jassy 將這些發現直接回報給白宮。
- •美國政府發布出口管制指令，限制外國公民存取 Fable 5 與 Mythos 5。
- •Anthropic 隨後配合該指令，切斷了對這些模型的存取權限。
🧠 深度解析
Web-grounded analysis with 22 cited sources.
🔑 增強重點摘要
- •Amazon 研究人員透過「越獄」技術，利用特定提示詞讓 Fable 5 產生了關於軟體漏洞的資訊，而這些資訊原本應受到限制，此發現促使了白宮的介入。
- •美國商務部發布的出口管制指令，明確限制所有外國公民（包括 Anthropic 自己的外國員工，無論其身在美國境內或境外）存取 Fable 5 和 Mythos 5 模型。
- •Anthropic 對於「越獄」發現的嚴重性持異議，聲稱這是一個「狹窄、非普遍的越獄」，並且指出其他公開可用的模型（包括 OpenAI 的 GPT-5.5）也能夠發現類似的、輕微且已知的漏洞。
- •Fable 5 是功能更強大的 Mythos 5 的公開版本，內建安全防護措施，旨在限制其在網路安全和生物學等高風險領域的性能，並將此類查詢轉發給功能較弱的 Opus 4.8 模型；而 Mythos 5 則取消了這些防護措施，僅供少數經過審查的客戶（Project Glasswing）使用。
- •此次事件是美國政府首次對大型語言模型 (LLM) 本身發布出口管制指令，這標誌著政府將先進 AI 視為國家安全資產的管制策略顯著升級。
📊 競品分析▸ Show
| 競爭者/模型 | 特點/功能 | 定價 (每百萬 token) | 基準/性能 |
|---|---|---|---|
| Anthropic Claude Fable 5 / Mythos 5 | 長時間、非同步執行；先進視覺能力；主動自我驗證；代理推理；Fable 5 具安全分類器，Mythos 5 無。 | 輸入: $10 / 輸出: $50 | Fable 5 在軟體工程、知識工作和視覺方面表現出色；Mythos 5 在網路安全任務上表現卓越，超越 Opus 4.8。 |
| OpenAI (GPT-5.5, GPT-5.4, GPT-5, o3, o4-mini) | 最廣泛採用的 AI API 提供商；擅長創意內容生成、腦力激盪和專案規劃；可客製化 GPTs。 | 未提供具體定價，但 GPT-5.5 被 Anthropic 提及具有與 Fable 5 類似的漏洞發現能力。 | GPT-5.5 在某些漏洞發現方面與 Fable 5 相當。 |
| Google Gemini (3.1 Pro, 2.5 Pro, 2.5 Flash) | 多模態應用和行動整合強項；擅長推理和除錯；與 Google 生態系統無縫整合。 | AI Plus: $3.99/月；AI Ultra: $124.99/月。 | 在多步驟代理工作方面表現強勁。 |
| xAI Grok (Grok 4.20, Grok 4.3) | 業界領先的 200 萬 token 上下文視窗 (Grok 4.20)；透過 X 平台即時資訊存取；內容政策較不嚴格。 | Grok 4.20: $2/$6 (每百萬 token 輸入/輸出)；Grok 4.3: $1.25/$2.50 (每百萬 token 輸入/輸出)。 | Grok 4.20 具有 200 萬 token 上下文視窗，是 Claude 的兩倍。 |
| Cohere (Command R+, Rerank, Embed) | 企業 RAG (檢索增強生成) 專家；Command R+ 專為 RAG、引用和工具使用而設計，具有 128K token 上下文視窗。 | 未提供具體定價。 | Command R+ 針對長文件 RAG 進行優化；Rerank 和 Embed v3 模型在檢索管道中被認為是同類最佳。 |
| Microsoft Copilot | AI 嵌入 Microsoft 365 應用程式，用於組織任務自動化。 | Microsoft 365 Copilot: $30/用戶/月。 | 擅長組織任務自動化。 |
🛠️ 技術深入
- Fable 5 和 Mythos 5 是基於相同的 Claude 5 基礎模型，在原始能力、參數數量和訓練方面完全相同。它們的區別主要在於行為約束和安全層。
- Fable 5 包含安全分類器，會拒絕網路安全、生物學、化學和健康等高風險領域的請求，並在被標記時轉發給功能較弱的 Opus 4.8 模型。Mythos 5 則取消了這些安全防護措施，僅供經過審查的合作夥伴使用。
- 這兩個模型預設都具有 100 萬 token 的上下文視窗，每次請求最多可輸出 128k token。
- 其功能包括長時間、非同步執行複雜任務、先進的視覺能力（理解 PDF 中的圖表、圖形和表格）、主動自我驗證以及代理推理（能夠在多個步驟中規劃、執行、檢查和調整）。
- Anthropic 要求 Fable 5 和 Mythos 5 進行 30 天的資料保留，以檢測濫用模式，這意味著資料會離開 AWS 的資料和安全邊界，並可能受到人工審查。
- Mythos 5 在網路安全方面展現出顯著能力，包括漏洞利用開發和漏洞發現，超越了之前的模型。
🔮 前景展望AI analysis grounded in cited sources
AI 出口管制將成為國家安全更常見的工具。
此次事件是美國政府首次對大型語言模型本身實施出口管制，表明政府將先進 AI 視為戰略資產的觀點發生了轉變。
AI 開發者將面臨更大的壓力，需要實施更強大、可驗證的安全機制。
由於「越獄」事件導致的迅速禁令，凸顯了政府對前沿模型潛在安全風險的低容忍度，促使公司優先考慮並證明其模型的安全性。
此事件將加速「AI 主權」解決方案的討論和發展。
即使是盟友也面臨立即的全球存取中斷，這將促使各國和企業尋求自我託管或區域控制的 AI 模型，以避免類似的干擾。
⏳ 時間線
2021-01
Anthropic 成立，由前 OpenAI 研究人員創立，專注於 AI 安全。
2023-03
Claude AI 推出。
2023-09
Amazon 向 Anthropic 投資高達 40 億美元。
2024-03
Claude 3 系列（Haiku, Sonnet, Opus）發布。
2025-01
Google 同意向 Anthropic 投資超過 10 億美元。
2026-06-09
Anthropic 發布 Claude Fable 5 和 Claude Mythos 5（有限存取）。
2026-06-12
美國政府發布針對 Fable 5 和 Mythos 5 的出口管制指令。
2026-06-13
Anthropic 全球暫停 Fable 5 和 Mythos 5 的存取權限。
📎 來源 (22)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰 事件追蹤
ITmedia AI+ (日本) • 6/14/2026
Amazon 曾對 Anthropic 最新 AI 模型提出安全疑慮
›
钛媒体 • 6/14/2026
Anthropic最新Claude模型發布遭政府暫停
›
TechCrunch AI • 6/14/2026
Anthropic 暫停新模型存取，引發印度 AI 未來發展辯論
›
iTNews Australia • 6/13/2026
Anthropic 全球下架 Mythos 系列模型
›
TechCrunch AI • 6/13/2026
據報 Amazon CEO 曾對 Anthropic 模型提出安全疑慮
›
虎嗅 • 6/13/2026
美國政府祭出出口管制，Anthropic 下架 Claude Fable/Mythos 5
›
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Verge ↗