🧠Weaviate Blog•最新收集於 15h
Weaviate 為 Search Mode 新增推理努力層級
💡透過 Weaviate 全新的測試時運算層級，調整代理式搜尋的品質與成本。
⚡ 30-Second TL;DR
有什麼變化
Query Agent 的 Search Mode 現在支援 medium、high 與 ultrahigh 三種努力層級。
為什麼重要
這項功能讓開發者能更細緻地控制代理式搜尋的品質、延遲與成本平衡。較高努力層級可能適合複雜的檢索任務，而較低層級則有助於控制日常查詢的資源使用量。
下一步行動
使用具代表性的查詢集測試 Query Agent Search Mode 的三種努力層級，並比較回答品質、延遲與運算成本。
誰應關注：Developers & AI Engineers
關鍵要點
- •Query Agent 的 Search Mode 現在支援 medium、high 與 ultrahigh 三種努力層級。
- •這些層級提供在搜尋過程中調整測試時運算量的方法。
- •實務使用者可根據品質、延遲與運算成本之間的取捨選擇適合的層級。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •此功能旨在解決複雜查詢中常見的「幻覺」問題，透過增加推理步驟（Test-time compute）來提升檢索增強生成（RAG）的準確性。
- •這些努力層級（Effort Levels）本質上是控制 Agent 在執行多步驟推理時，允許其進行自我反思（Self-reflection）與路徑修正的迭代次數。
- •該機制與 Weaviate 的向量資料庫架構深度整合，利用其原生過濾與混合搜尋能力，作為推理過程中的知識檢索基礎。
- •此更新特別針對需要高精確度但對延遲容忍度較高的企業級應用場景，例如法律文件分析或醫療診斷支援系統。
- •開發者可透過 API 參數動態調整這些層級，實現針對不同查詢複雜度進行自動化負載平衡的策略。
📊 競品分析▸ Show
| 特色 | Weaviate (Query Agent) | Pinecone (Serverless) | Milvus (Managed) |
|---|---|---|---|
| 推理層級控制 | 支援 (Medium/High/Ultra) | 依賴外部 Agent 框架 | 依賴外部 Agent 框架 |
| 核心優勢 | 內建 Agent 推理能力 | 基礎設施擴展性 | 高效能與大規模部署 |
| 成本模型 | 依推理運算量計費 | 依儲存與查詢量計費 | 依資源使用量計費 |
🛠️ 技術深入
- 實作機制：透過在 Query Agent 的執行迴圈中引入動態迭代限制（Iteration Budgeting），根據選擇的層級調整推理鏈（Chain-of-Thought）的深度。
- 資源分配：Ultrahigh 層級會觸發更頻繁的向量空間重排序（Re-ranking）與多重假設驗證，顯著增加 GPU/CPU 的測試時運算需求。
- 整合方式：與 Weaviate 的 GraphQL API 緊密結合，允許在查詢請求中透過
effort_level參數即時指定推理強度。 - 效能權衡：系統內部採用了快取機制，對於重複或相似的推理路徑，即使在較高層級下也能減少部分重複計算開銷。
🔮 前景展望AI analysis grounded in cited sources
向量資料庫將從單純的檢索工具轉型為具備推理能力的決策引擎。
隨著推理層級控制的引入，資料庫不再僅是回傳相似向量，而是主動參與資訊的篩選與邏輯驗證。
企業將出現針對不同查詢類型自動切換推理層級的智慧路由架構。
為了平衡成本與效能，開發者將會實作基於查詢複雜度預測的自動化層級選擇機制。
⏳ 時間線
2023-05
Weaviate 宣布完成 5,000 萬美元 B 輪融資，加速 AI 原生資料庫開發。
2024-02
推出 Weaviate Verba，一個開源的 RAG 應用程式，強化對非結構化資料的處理能力。
2025-09
Weaviate 正式發布 Query Agent，標誌著產品從向量搜尋轉向 Agentic RAG 領域。
2026-08
為 Query Agent 的 Search Mode 引入 medium、high 與 ultrahigh 推理努力層級。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Weaviate Blog ↗