Search

直接匹配不多,已補上最新動態。

Tag: #memory-compaction1 results

MIT Attention Matching 壓縮 KV 快取 50 倍

MIT Attention Matching 壓縮 KV 快取 50 倍

MIT 研究人員開發 Attention Matching,這是一種快速 KV 快取壓縮技術,可將 LLM 記憶體使用量減少高達 50 倍,幾乎無準確度損失。它解決了長上下文企業 AI 應用(如法律分析和多會話對話)的記憶體瓶頸。此方法在保留資訊方面優於驅逐、合併和摘要技術。

VentureBeatMediaMar 6#memory-compaction#long-context
Ox Alpha:神秘模型公開亮相

Ox Alpha:神秘模型公開亮相

Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型,具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁,但開發者、參數量、訓練資料與正式基準排名仍未獲確認。