LLM 工具過度使用幻覺揭露

💡修正 LLM 工具過用—新對齊與獎勵策略減呼叫 80%（68字）

⚡ 30-Second TL;DR

有什麼變化

多樣 LLM 中工具過度使用現象普遍

為什麼重要

優化工具增強 LLM，減少不必要呼叫，降低代理 AI 系統成本與延遲。不損準確度下提升部署效率。

下一步行動

使用 DPO 微調您的 LLM，實現知識感知工具決策以減少過用。

誰應關注：Researchers & Academics

AI-generated analysis for this event.

•研究發現工具過度使用（Over-tooling）不僅浪費計算資源，還會因引入外部工具的潛在雜訊（如搜尋結果不相關或 API 錯誤）而降低模型整體效能。
•該研究指出，現有的強化學習對齊方法（如 RLHF）往往過度獎勵最終正確答案，導致模型傾向於在不確定時盲目呼叫工具，而非優先利用內部參數化知識。
•知識感知式邊界對齊策略（Knowledge-Aware Boundary Alignment）引入了「拒絕機制」，使模型在判斷問題屬於內部知識庫範圍內時，能主動放棄呼叫外部工具。

•核心機制：引入知識邊界檢測器（Knowledge Boundary Detector），在模型推理路徑中增加一個分類層，用於判斷查詢是否在模型訓練數據覆蓋範圍內。
•獎勵函數優化：採用多目標獎勵函數（Multi-objective Reward Function），將「工具呼叫成本」與「答案準確性」納入權重計算，而非僅優化最終結果。
•DPO 應用：利用直接偏好優化（Direct Preference Optimization）微調模型，構建包含「正確使用工具」與「正確拒絕使用工具」的偏好數據集，強化模型對知識邊界的認知。

LLM 推理成本將顯著下降

透過減少不必要的外部 API 呼叫與搜尋請求，企業部署 LLM 的營運成本將因降低 Token 消耗與延遲而大幅縮減。

模型自主決策能力將成為評測標準

未來 LLM 評測基準將不僅關注答案準確度，還會將「工具使用效率」與「自主判斷能力」納入核心指標。

AI 週報

閱讀本週精選 AI 大事摘要 →

同主題

探索 #tool-overuse

同產品

更多關於 llms

同來源

最新來自 ArXiv AI

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ArXiv AI ↗