🕷️
SetupAI
EN
🦙較早收集於 5h

LM Studio 解析器錯誤破壞 Qwen3.5 工具

PostLinkedIn
🦙閱讀原文： Reddit r/LocalLLaMA
#tool-calling#parser-bug#local-inferencelm-studiolm-studioqwen3.5deepseek-r1

💡LM Studio 錯誤癱瘓 Qwen3.5 工具與推理的修復—本地開發者必讀。（38字元）

⚡ 30-Second TL;DR

有什麼變化

解析器誤將 <think> 區塊中的工具語法視為實際呼叫，引發遞迴迴圈。

為什麼重要

破壞 LM Studio 中本地工具使用 LLM 的可靠性，迫使使用者採用規避方法，停用關鍵推理功能並限制多工具設定。

下一步行動

在 LM Studio 中透過 '{%- set enable_thinking = false %}' 停用推理，並重新測試 Qwen3.5 工具呼叫。

誰應關注：Developers & AI Engineers

關鍵要點

  • •解析器誤將 <think> 區塊中的工具語法視為實際呼叫，引發遞迴迴圈。
  • •註冊第二 MCP 伺服器會破壞第一伺服器的工具呼叫辨識。
  • •模型無法除錯工具問題，因為描述本身就會觸發解析器。
  • •規避方法：設定 enable_thinking = false 以成功執行工具呼叫。

🧠 深度解析

背景與延伸：來自公開資料，非原文內容。引用 9 個來源。

🔑 增強重點摘要

  • •LM Studio 0.3.31 於 Build 2 修復了 Qwen3 VL Thinking 模型的 token 相關 ValueError 錯誤，但未涵蓋工具呼叫解析問題。[5]
  • •LM Studio 0.3.17 引入 MCP (Model Context Protocol) 支援，允許連接外部 MCP 伺服器，但多伺服器註冊衝突問題持續存在。[7]
  • •LM Studio 的 GitHub bug tracker 顯示多項 Qwen3 相關開放問題，包括 Qwen3.5-35B 的 KV cache 重用失效及 Qwen3 Next 模型載入灰顯。[3][8]

🔮 前景展望AI analysis grounded in cited sources

LM Studio 將在 0.4.x 版本修復 Qwen3.5 工具解析錯誤
基於 0.3.31 已針對 token 進行修復及持續的 bug tracker 活動，預期開發團隊將優先處理一年多的核心問題。
Qwen3 工具呼叫將轉向 llama.cpp 作為主要本地運行後端
多個來源顯示 llama.cpp 在 KV cache 及工具呼叫穩定性優於 LM Studio 的 MLX 實現，尤其在 Mac 平台。

⏳ 時間線

2025-10
LM Studio bug tracker 出現多項 Qwen3 相關開放問題
2025-12
LM Studio 0.3.17 引入 MCP 支援
2026-01
LM Studio 0.3.31 修復 Qwen3 VL <think> token 錯誤
2026-03
Reddit 報告 LM Studio 解析器破壞 Qwen3.5 工具呼叫問題持續一年多
🦙閱讀原文： Reddit r/LocalLLaMA
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

同主題

探索 #tool-calling

同產品

更多關於 LM Studio

同來源

最新來自 Reddit r/LocalLLaMA

🦙

為 16GB VRAM 調校 Qwen3.8

Reddit r/LocalLLaMA•Aug 22

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Reddit r/LocalLLaMA ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週 AI 簡報

每週一封，可隨時退訂。