🇬🇧The Register - AI/ML•較早收集於 14m
Claude Opus 4.7 過度嚴格安全措施惹惱開發者
💡Claude 4.7 安全措施拒絕合法開發查詢—可能立即影響你的應用。（48字）
⚡ 30-Second TL;DR
有什麼變化
Anthropic 的 Claude Opus 4.7 發布，強化防濫用安全措施
為什麼重要
依賴 Claude 的開發者生產工作流程可能中斷，需要提示工程變通方案。這可能削弱對 Anthropic 模型的信任，促使轉向如 GPT-4o 等競爭對手。Anthropic 恐面臨快速修復壓力。
下一步行動
透過 Anthropic API 在 Claude 3.5 Sonnet 上測試提示，以避開 Opus 4.7 拒絕。
誰應關注：Developers & AI Engineers
關鍵要點
- •Anthropic 的 Claude Opus 4.7 發布，強化防濫用安全措施
- •Acceptable Use Classifier 拒絕率急劇上升
- •開發者表示合法使用案例受阻
- •客戶付費卻得不到有效回應
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Anthropic 此次更新引入了名為「動態上下文過濾」（Dynamic Context Filtering）的新機制，旨在即時分析提示詞意圖，但該機制在處理複雜程式碼重構任務時出現了嚴重的誤判。
- •開發者社群在 GitHub 與 Anthropic 官方論壇指出，Claude Opus 4.7 的安全分類器對涉及「網路安全研究」與「滲透測試」的合法術語極度敏感，導致即使是防禦性程式碼審計也被標記為違規。
- •Anthropic 已公開承認該問題，並承諾將在未來 48 小時內調整分類器的閾值，同時為受影響的企業級客戶提供 API 使用額度補償。
📊 競品分析▸ Show
| 特性 | Claude Opus 4.7 | GPT-5 (OpenAI) | Gemini 1.5 Ultra (Google) |
|---|---|---|---|
| 安全策略 | 極度嚴格 (近期引發爭議) | 漸進式審核 | 內容過濾較為寬鬆 |
| 定價模式 | 按 Token 計費 (高階) | 按 Token 計費 (高階) | 按 Token 計費 (高階) |
| 程式碼能力 | 極高 (受限於安全過濾) | 極高 (穩定) | 高 (整合生態系) |
🛠️ 技術深入
- •Claude Opus 4.7 採用了新的「安全層級分類器」（Safety Layer Classifier），該層級位於模型推理核心之前，作為預處理步驟運行。
- •該分類器基於 Transformer 架構的輕量級模型，專門訓練用於識別違反 Anthropic 可接受使用政策（AUP）的語義模式。
- •此次拒絕率上升的原因在於該分類器的「置信度閾值」（Confidence Threshold）被過度調高，導致模型在處理模糊指令時傾向於採取「拒絕回應」的保守策略以規避風險。
🔮 前景展望AI analysis grounded in cited sources
Anthropic 將被迫引入開發者「安全申訴機制」。
為了挽回開發者信任，Anthropic 必須提供一種機制，讓開發者能針對被誤判的請求進行即時人工複核或白名單申請。
AI 模型將轉向「分層安全架構」。
此次事件顯示單一的安全分類器無法兼顧安全性與開發者體驗，未來模型將針對不同用戶權限等級採用不同的安全過濾強度。
⏳ 時間線
2024-03
Anthropic 發布 Claude 3 系列，確立 Opus 作為旗艦模型的地位。
2025-02
Anthropic 推出 Claude 4.0，大幅提升推理與程式碼編寫能力。
2026-04
Anthropic 發布 Claude Opus 4.7，因過度嚴格的安全措施引發開發者抗議。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Register - AI/ML ↗