⚛️較早收集於 56m

騰訊開源 Agent 記憶技術,Token 消耗降低 61%

騰訊開源 Agent 記憶技術,Token 消耗降低 61%
PostLinkedIn
⚛️閱讀原文: 量子位

💡一個能大幅降低 Agent LLM 推論成本的實用開源工具。

⚡ 30-Second TL;DR

有什麼變化

針對 AI Agent 的開源記憶優化框架

為什麼重要

此發布為開發者提供了一種經濟高效的方式來管理基於 LLM 的 Agent 的長期記憶。它降低了構建複雜、具備狀態的 AI 應用程式的門檻。

下一步行動

將騰訊的記憶管理框架整合到您現有的 Agent 工作流程中,以降低 API 成本。

誰應關注:Developers & AI Engineers

關鍵要點

  • 針對 AI Agent 的開源記憶優化框架
  • Token 使用量最高降低 61%
  • 任務執行成功率提升 51%

🧠 深度解析

Web-grounded analysis with 19 cited sources.

🔑 增強重點摘要

  • 騰訊雲正式開源了名為「TencentDB Agent Memory」的記憶管理解決方案,並採用MIT許可證發布,旨在為AI Agent提供優化的記憶能力。
  • 此開源方案同時提供短期記憶壓縮和長期個性化記憶功能,其中長期記憶功能已於2026年4月免費上線,本次開源的重點是短期記憶壓縮。
  • TencentDB Agent Memory 的核心技術包括「上下文卸載(Context Offloading)」和「Mermaid 任務畫布」,前者將原始資訊移至外部儲存,後者則將Agent任務過程組織成結構化任務圖,以輕量級方式保留關鍵狀態和執行關係。
  • 該框架已適配OpenClaw和Hermes等主流Agent框架,支援一鍵整合部署,並在多任務連續會話實驗中,將網頁搜尋場景的Token消耗最高降低61%,任務成功率相對提升52%。
  • 在PersonaMem評測中,TencentDB Agent Memory的長期個性化記憶模組將Agent對用戶畫像的理解準確率從48%提升至76%。
📊 競品分析▸ Show
特性/產品TencentDB Agent MemoryMem0ZepSimpleMem
記憶類型分層記憶(符號化短期記憶、分層長期記憶),支援短期壓縮與長期個性化記憶。智慧記憶層,支援用戶/會話/Agent三層記憶,整合向量DB與圖資料庫。企業級長期記憶雲服務,支援聊天歷史事實提取與向量搜尋,具備Graphiti功能。專注效率,採用語義無損壓縮,在LOCOMO基準測試中表現優異。
核心技術上下文卸載、Mermaid任務畫布,將完整資訊卸載至外部儲存,保留關鍵狀態與結構關係。將記憶儲存於向量DB(如Qdrant/Pinecone/Chroma),並利用LLM自動提取與更新資訊。透過事實提取進行向量搜尋,支援SOC2 Type II認證及本地部署。語義壓縮技術,旨在大幅減少Token消耗。
Token消耗優化最高降低61.38%(網頁搜尋場景)。透過記憶層管理,間接優化Token使用,但未直接提供具體壓縮率。透過高效檢索相關上下文,減少LLM處理的Token量。聲稱可實現30倍Token削減。
任務成功率/準確度任務成功率相對提升51.52%(網頁搜尋場景),PersonaMem準確度從48%提升至76%。LOCOMO基準測試F1分數為34.20%(使用GPT-4.1-mini)。旨在提升長期對話的連貫性與準確性。LOCOMO基準測試F1分數為43.24%(使用GPT-4.1-mini)。
整合性適配OpenClaw、Hermes等主流Agent框架。支援25種以上向量儲存和15種以上LLM。支援企業級整合,提供雲服務及本地部署選項。專注於效率,可與其他框架結合使用。
開源狀態開源(MIT許可證)。開源。提供雲服務,部分組件可能開源。開源。

🛠️ 技術深入

  • 分層記憶架構 (Layered Memory Architecture): TencentDB Agent Memory 採用統一的分層架構範式,包含符號化短期記憶和分層長期記憶。
  • 符號化短期記憶 (Symbolic Short-term Memory): 透過將繁重的工具日誌卸載並壓縮成緊湊的Mermaid符號,有效降低Token消耗並提高任務成功率。
  • 分層長期記憶 (Layered Long-term Memory): 將零碎的對話提煉成結構化的人物誌(personas)和場景,而非扁平的向量堆疊,以實現更精確的記憶管理。
  • 上下文卸載 (Context Offloading): 工具呼叫完成後,網頁內容、日誌和中間結果等原始資訊不會長期佔用上下文視窗,而是轉移到外部檔案系統儲存;上下文僅保留摘要和索引資訊,需要時按需恢復。
  • Mermaid 任務畫布 (Mermaid Task Canvas): 系統將Agent的任務過程組織成結構化的任務圖,保留任務狀態、步驟摘要和執行關係,即使上下文只保留輕量級任務畫布,Agent仍能快速判斷任務進度及步驟依賴關係。
  • 整合與模型支援: 該框架已適配OpenClaw和Hermes等主流Agent框架,並預設搭載騰訊雲DeepSeek-V3.2模型。

🔮 前景展望AI analysis grounded in cited sources

AI Agent將能處理更複雜、更長期的任務。
透過高效的記憶管理和Token消耗降低,AI Agent能夠在多輪對話和複雜工作流程中保持上下文連貫性,減少重複資訊,從而提升處理複雜任務的能力。
企業部署AI Agent的成本將顯著降低。
Token消耗的大幅減少直接降低了大型語言模型的使用成本,使得企業能夠更經濟地部署和運行需要大量上下文的AI Agent應用,加速AI在各行業的普及。
AI Agent的個性化和使用者體驗將大幅提升。
長期個性化記憶能力的增強,使得Agent能夠更準確地理解用戶偏好和歷史背景,提供更貼近個人需求的服務,從而顯著改善使用者互動體驗。

時間線

2016
騰訊AI Lab成立,標誌著騰訊在AI領域的深入佈局。
2025-08-06
騰訊AI Lab發布Cognitive Kernel-Pro,一個完全開源、多模組、分層的智慧Agent框架。
2025-08-29
騰訊的Youtu-Agent開源自主AI Agent框架被討論,強調對開源LLM的支援。
2026-03-27
騰訊雲公布2026年AI演進路線,首次發布Agent產品全景圖,並將MaaS平台升級為TokenHub。
2026-04
TencentDB Agent Memory的長期記憶功能上線並免費提供使用。
2026-05-14
騰訊雲正式開源TencentDB Agent Memory,重點在於短期記憶壓縮能力。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: 量子位