🇬🇧較早收集於 3h

Claude Code 快取 TTL 縮減引發配額投訴

Claude Code 快取 TTL 縮減引發配額投訴
PostLinkedIn
🇬🇧閱讀原文: The Register - AI/ML

💡Claude 開發者:5 分快取 TTL 燒配額更快—立即調整長會話!(28 字元)

⚡ 30-Second TL;DR

有什麼變化

Anthropic 將 Claude Code 提示快取 TTL 從 1 小時減至 5 分鐘。

為什麼重要

此 TTL 縮減嚴重影響長會話開發者,可能提高實際成本。使用者可能需重構提示或轉換工具以維持編碼任務。

下一步行動

檢查 Claude API 使用記錄,並優化超過 5 分鐘會話的提示以減少快取未命中。

誰應關注:Developers & AI Engineers

關鍵要點

  • Anthropic 將 Claude Code 提示快取 TTL 從 1 小時減至 5 分鐘。
  • 開發者報告長編碼會話中配額更快耗盡。
  • 公司堅稱無成本增加,但使用者投訴相反。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Anthropic 調整 TTL 的核心動機在於優化伺服器資源分配,以應對 Claude Code 在高併發編碼場景下對快取儲存空間的巨大壓力。
  • 開發者社群指出,由於 Claude Code 的上下文視窗(Context Window)頻繁更新,5 分鐘的 TTL 強制觸發了更頻繁的快取重建(Cache Miss),導致 API 呼叫的 Token 計算量在長會話中呈現指數級增長。
  • Anthropic 官方技術文件已更新,強調此變更旨在平衡「即時性」與「資源利用率」,並建議開發者透過優化 Prompt 結構來降低快取失效帶來的額外成本。
📊 競品分析▸ Show
特性Claude CodeGitHub Copilot WorkspaceCursor (Composer)
快取機制5 分鐘 TTL (強制)基於專案索引的快取混合式本地/雲端快取
定價模式按 Token 用量計費訂閱制 (固定費用)訂閱制 + 用量上限
效能基準高複雜度推理優勢整合性與生態優勢UI/UX 與開發流程整合

🛠️ 技術深入

  • 提示快取 (Prompt Caching) 機制:Claude Code 利用 Anthropic 的快取 API,將長篇系統提示詞或大型程式碼庫索引儲存在記憶體中,以減少重複輸入的 Token 成本。
  • TTL (Time-to-Live) 影響:縮減 TTL 會導致快取項目在 5 分鐘後被標記為失效,若開發者在該時間後發送請求,系統必須重新計算並寫入快取,這會消耗額外的輸入 Token。
  • 資源消耗模型:在長會話中,若程式碼庫變更頻繁,短 TTL 會導致快取命中率 (Cache Hit Rate) 下降,進而導致 API 請求的「快取寫入」成本高於「快取讀取」成本。

🔮 前景展望AI analysis grounded in cited sources

Anthropic 將推出分級快取策略。
為了解決開發者對成本的抱怨,Anthropic 可能會針對不同訂閱等級提供可自定義的 TTL 設定。
開發者將轉向使用本地快取優化工具。
由於雲端快取成本的不確定性,開發者可能會開發或採用能更精確控制上下文發送頻率的第三方中間件。

時間線

2024-10
Anthropic 正式推出 Claude 提示快取 (Prompt Caching) 功能。
2025-02
Anthropic 發布 Claude Code,將提示快取整合至 CLI 開發工具中。
2026-03
Anthropic 將 Claude Code 的提示快取 TTL 從 1 小時縮減至 5 分鐘。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: The Register - AI/ML