🤖
Qwen3.8-27B 以知識能力換取工具使用表現
一名 Reddit 使用者表示，Qwen3.8-27B 在冷門常識與離線知識測試上的表現明顯不如 Qwen3.6。它可能仍適合程式設計與工具輔助工作流，但若使用者依賴模型內部權重進行廣泛事實回憶，應保持謹慎。
Search
Tag: #retrieval20 results
AgentSearchBench：AI 代理搜尋基準測試
AgentSearchBench 推出一個使用近 10,000 個來自多供應商的真實世界代理的大型基準測試，用於 AI 代理搜尋。它將搜尋形式化為可執行和高階查詢下的擷取與重新排序，並透過執行基礎效能評估。實驗顯示語意方法不足，而執行感知探測可提升排序品質。
🔬
基準測試如何讓壓縮技術看起來更好
一名研究人員批評某些評估做法，指出這些做法可能讓稀疏注意力與 KV cache 壓縮方法看起來比實際更有效。文章點出簡單的檢索任務、不對等的基準調校、有利提示詞，以及實作上的優勢，都可能扭曲比較結果。
讓案例遠離 LLM，RAG 成本可降低 6 倍
文章主張，受監管的 RAG 分類系統不應將所有模糊案例直接交給 LLM。級聯架構會先處理可由規則決定的案例，再擷取針對性證據，最後只將未解決的案例升級給模型，以提升可稽核性、一致性、成本效益與延遲表現。
語意層揭露隱藏的上下文錯誤
對 101 家企業的調查發現，68% 曾將代理程式自信卻錯誤的答案，追溯至缺失或不一致的業務上下文。正在建置受治理語意層的企業回報重複性錯誤比例為 50%，超過未使用語意層企業的 21%；這表示語意層是在揭露問題，而非造成問題。
讓 AI Agents 搜尋你的資料
Cloudflare AI Search 讓團隊能針對自有檔案與網站建立搜尋體驗，供 AI agents 使用。公告也預告了新的定價模式。
攤銷最大內積搜尋 (MIPS) 技術
本研究提出了一種基於迴歸的 MIPS 方法，透過訓練神經網路直接預測解。利用鍵值集的支撐函數，它攤銷了針對已知查詢分佈進行重複搜尋的成本。
SilverTorch：推薦系統的新典範
Meta 推出了 SilverTorch，這是一種將索引視為模型的統一架構，重新構想了推薦系統。此方法顯著提升了吞吐量與運算效率，同時改善了推薦的準確性。
📰
AST 圖形 + BM25 大幅縮減 LLM 上下文
分享使用 Tree-sitter 解析 AST 衍生類型圖形，用於程式碼庫 RAG，透過節點上的 BM25 檢索將上下文從 100K 降至 5K 令牌。圖形邊緣自動拉取依賴關係。開放問題包括邊緣加權與重新排序。
⚙️
LLM 已比檢索管道更懂 Git
DiffMem 團隊以單一唯讀 shell 命令工具取代複雜檢索管道，利用 LLM 訓練資料中內建的 Git 專業知識。代理使用 git log、grep 進行高效、精簡脈絡查詢，能發現關鍵字無法觸及的時間洞察。真實範例透過提交歷史將生日訊息連結至工作記憶。