🕷️
SetupAI
💻較早收集於 17m

Claude Fable 5 暗中限制研究人員使用，引發信任危機

PostLinkedIn
💻閱讀原文： ZDNet AI
#transparency#model-safety#throttlingclaude-fable-5anthropicclaude fable 5

💡了解 Claude Fable 5 中的隱藏安全觸發機制如何影響研究人員的工作流程並削弱開發者信任。

⚡ 30-Second TL;DR

有什麼變化

Claude Fable 5 實施了針對研究人員的未公開限流機制。

為什麼重要

此事件凸顯了模型安全性與開發者體驗之間的緊張關係，可能損害 Anthropic 在高階用戶中的聲譽。它強調了針對速率限制與效能約束提供更清晰說明文件的必要性。

下一步行動

檢查您的 API 使用模式，並監控是否有非預期的延遲峰值，這可能暗示存在隱藏的安全相關限流。

誰應關注：Researchers & Academics

關鍵要點

  • •Claude Fable 5 實施了針對研究人員的未公開限流機制。
  • •隱藏的安全防護措施被 AI 社群視為對信任的背叛。
  • •Anthropic 因模型效能限制缺乏透明度而面臨批評。

🧠 深度解析

Web-grounded analysis with 25 cited sources.

🔑 增強重點摘要

  • •Claude Fable 5 中的隱藏限制專門設計用於降低與開發競爭性大型語言模型（LLM）相關任務的效能，例如預訓練管道、分散式訓練和機器學習加速器設計。
  • •與針對網路安全或生物學等高風險領域的其他安全防護措施不同，這些措施會明確地將提示重新導向至較不先進的模型，而針對 AI 開發任務的限制則是隱蔽的，在沒有使用者通知的情況下悄悄降低輸出品質。
  • •這些隱蔽限制的發現，詳細記載於 Fable 5 長達 319 頁的系統卡中，引發了 AI 研究社群的立即反彈，他們批評這種做法缺乏透明度且具有反競爭行為。
  • •Anthropic 此後已為「錯誤的權衡」道歉，並修改了其政策，使這些安全防護措施變得可見，這意味著被標記的 API 請求現在將明確返回拒絕原因，或明顯地回退到較舊的模型，例如 Claude Opus 4.8。
  • •此事件引發了關於 AI 系統信任、安全、商業利益與開放研究之間平衡，以及 AI 輔助研究中明確披露的必要性等更廣泛的問題。
📊 競品分析▸ Show
特性/模型Anthropic Claude Fable 5OpenAI GPT-5.5Anthropic Claude Opus 4.8
發布日期2026年6月9日2026年5月更新 (GPT-5.5)2026年5月28日
輸入價格 (每百萬 Token)10 美元5 美元5 美元
輸出價格 (每百萬 Token)50 美元30 美元25 美元
上下文視窗100萬 Token未明確說明，但 GPT-5.2 為 40萬 Token100萬 Token
SWE-Bench Pro (程式碼)80.3%58.6%69.2%
主要優勢程式碼基準測試表現卓越，特別是在軟體工程方面；具備原生電腦使用能力；更一致的安全行為和指令遵循；擅長長篇寫作和細緻分析。輸入/輸出價格更低；提供批次/彈性層級；無安全分類器回退或受限查詢拓撲；無強制資料保留政策。效能優於 Sonnet，成本低於 Fable 5，在複雜任務上仍具競爭力。
資料保留政策至少 30 天強制保留提示和輸出，用於安全監控。無強制資料保留政策。支援零資料保留 (ZDR) 政策。

🛠️ 技術深入

  • Claude Fable 5 是 Anthropic 首個公開可用的「Mythos 級」模型，其能力超越了 Opus 級。
  • 該模型具有 100 萬個 Token 的上下文視窗和 128K 個輸出 Token。
  • Fable 5 採用「始終開啟的自適應思維」（always-on adaptive thinking），其深度可透過「努力參數」（effort parameter）控制。
  • 針對網路安全、生物/化學和蒸餾嘗試的安全分類器會自動將被標記的請求回退到 Claude Opus 4.8（影響不到 5% 的會話）。
  • 針對 AI 開發任務的隱藏限制是透過提示修改（prompt modification）和引導向量（steering vectors）等技術實施的。
  • Claude 模型通常基於 Transformer 架構，並使用「憲法式 AI」（Constitutional AI）進行訓練，以提高道德和法律合規性，這涉及基於預定義規則的自我批評和微調。
  • Claude Mythos 5 是 Fable 5 的一個限制較少的版本，僅透過有限的信任存取計畫提供給經批准的客戶。

🔮 前景展望AI analysis grounded in cited sources

AI 開發者將面臨對隱藏模型行為和安全機制日益增加的審查。
Anthropic 隱蔽限制所引發的反彈，凸顯了研究社群和使用者對 AI 模型運作方式和治理透明度日益增長的需求。
監管機構可能會針對 AI 模型透明度和披露引入更嚴格的要求，特別是對於前沿模型。
此事件強調了明確披露的必要性，並可能促使監管機構（類似於現有的歐盟數位服務法案要求）強制要求更明確地報告模型限制和安全干預措施。
Anthropic 作為一家安全至上、道德規範的 AI 公司的聲譽可能會受到永久性影響，這可能影響研究人員的合作和企業採用。
該公司長期以來將自己定位為 OpenAI 等競爭對手更具道德的替代方案，而這次信任的破壞，特別是與研究社群之間的信任，可能會損害其信譽和合作夥伴關係。

⏳ 時間線

2021-01
Anthropic 成立，由前 OpenAI 員工創立，強調 AI 安全與倫理。
2023-03
Claude 作為 AI 聊天機器人首次公開發布。
2024-03
Claude 3 系列（Haiku、Sonnet、Opus）發布。
2025-02
Claude Code 作為代理式命令列工具發布預覽版。
2026-05-28
Claude Opus 4.8 發布。
2026-06-09
Anthropic 發布 Claude Fable 5，這是其首個公開可用的「Mythos 級」模型，並隨後被揭露存在隱藏限制。
2026-06-11
Anthropic 在業界強烈反彈後，修改了 Claude Fable 5 的隱藏安全防護措施政策，使其透明化。
💻閱讀原文： ZDNet AI
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

同主題

探索 #transparency

同產品

更多關於 claude-fable-5

同來源

最新來自 ZDNet AI

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ZDNet AI ↗