🦙Reddit r/LocalLLaMA•較早收集於 5h
0.6B SLM 在語音工具呼叫勝過 120B
#small-language-model#tool-calling#voice-assistant#local-inferencevoiceteller
💡Tiny 0.6B model beats 120B LLM + 10x faster local voice AI—open-source now
⚡ 30-Second TL;DR
有什麼變化
微調 Qwen3-0.6B 單輪工具呼叫準確率 90.9%，勝過 120B GPT-oss 的 87.5%
為什麼重要
證明 SLM 在結構化語音任務中出色，降低邊緣銀行應用成本與延遲。實現無雲端依賴的離線私人語音 AI。在生產語音管線中推動小型模型採用。
下一步行動
Clone the GitHub repo and fine-tune Qwen3-0.6B on your domain data using provided scripts.
誰應關注：Developers & AI Engineers
關鍵要點
- •微調 Qwen3-0.6B 單輪工具呼叫準確率 90.9%，勝過 120B GPT-oss 的 87.5%
- •腦部階段延遲從 375-750ms 降至 40ms，讓對話更自然流暢
- •完整本地管線：Qwen3-ASR、llama.cpp 意圖路由、Qwen3-TTS 在 Apple Silicon MPS 上
- •SLM 輸出結構化 JSON；協調器處理多輪對話與回應模板
- •GitHub 儲存庫含程式碼與資料；HF 託管預訓練 GGUF 模型
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Reddit r/LocalLLaMA ↗
每週 AI 簡報
每週一封，可隨時退訂。