📰
社群對發布小型 LLM 的需求
使用者對於自四月以來缺乏新的小型 LLM 發布表示沮喪。社群正期待像 Gemma 或 Qwen 等熱門模型的更新。
Search
Tag: #local-deployment23 results
📰
評估用於手寫 OCR 任務的本地 LLM
使用者正在探索透過 Ollama 使用 qwen3-vl:8b 進行手寫信件的 OCR 辨識，並尋求社群推薦更佳的替代方案。
Qwen 3.6 量化抹平基準測試優勢
用戶擔心 Qwen 3.6 397B 未發布，但 Qwen 3.5 與 3.6 在多項基準測試的微小差距顯示，使用 Q2_K_XL 等量化在 RTX 6000 上運行將消除優勢。討論期待較小 Qwen 模型挑戰 Gemma 4。