🦙較早收集於 29m

Qwen 3 32B 盲測勝所有 Qwen 3.5

PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA
#benchmarks#moe#local-llmqwenqwen-3qwen-3.5

💡密集 32B 勝 397B MoE—重塑本地 LLM 效率選擇。(28字)

⚡ 30-Second TL;DR

有什麼變化

Qwen 3 32B(密集 32B)得分 9.63,勝 Qwen 3.5 397B-A17B(9.40)

為什麼重要

密集模型挑戰 MoE 炒作;提升消費者硬體本地 LLM 選擇。

下一步行動

在你的硬體上本地基準測試 Qwen 3 32B 對 35B-A3B。

誰應關注:Developers & AI Engineers

關鍵要點

  • Qwen 3 32B(密集 32B)得分 9.63,勝 Qwen 3.5 397B-A17B(9.40)
  • Qwen 3.5 35B-A3B 以 3B 活躍參數贏 4 項,0.54 分/秒
  • Coder Next 排第 7,在 SQL、Go 等編碼任務輸通用模型
  • 58.5% 有效判斷;前排穩定儘管雜訊

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 7 個來源。

🔑 增強重點摘要

  • Qwen3 系列於 2025 年 4 月 29 日發布,包含 8 種尺寸,從 0.6B 密集模型到 235B MoE 旗艦模型,每個支援最大 128K 上下文長度。
  • Qwen3.5-35B-A3B 採用 MoE 架構,隱藏維度 2048、40 層、Gated DeltaNet 與 MoE 組合,專家中間維度 512,原生支援 262K 上下文可擴展至 1M 令牌。
  • Qwen3 32B 定價極具競爭力,輸入 $0.08/M 令牌、輸出 $0.24/M,比 Claude Sonnet 3.5 便宜約 4-5 倍。
  • Qwen3.5-2B 支援多模態輸入如圖像,而 Qwen3 32B 僅限文字。
📊 競品分析▸ Show
模型參數規模上下文長度定價 (輸入/輸出 per M tokens)開源
Qwen3 32B32.8B128K$0.08 / $0.24
Qwen3.5-2B2B未指定未指定未指定
Claude Sonnet 3.5未指定128K$3.00 / $15.00
Qwen-Max未指定32.8K高 13-17x

🛠️ 技術深入

  • Qwen3 32B:密集模型,32.8B 參數,128K 輸入/輸出上下文,採用 Qwen3 tokenizer,支援函數呼叫、結構化輸出、推理模式與內容審核。
  • Qwen3.5-35B-A3B:MoE 架構,總參數 35B / 活躍 3B,隱藏維度 2048,40 層,隱藏佈局 10 × (3 × (Gated DeltaNet → MoE) → 1 × (Gated Attention → MoE)),線性注意力頭 V:32 / QK:16,專家中間維度 512,上下文 262K 可擴至 1,010K。
  • Qwen3 系列 MoE 模型如 235B-A22B 僅激活少量參數(如 22B),實現高效運算。

🔮 前景展望AI analysis grounded in cited sources

Qwen3 32B 將持續主導開源密集模型基準
其在盲測中勝過較新 Qwen3.5 模型,且低定價與開源特性有利於廣泛本地部署與社區優化。
MoE 模型如 Qwen3.5-35B-A3B 將優化邊緣硬體應用
僅 3B 活躍參數達高性能與 0.54 分/秒速度,適合資源受限環境超越密集模型。
Qwen 系列定價優勢壓縮競爭對手利潤
比 Claude Sonnet 3.5 便宜 4-5 倍且基準相近,將加速企業轉向開源替代方案。

時間線

2025-02
Qwen-Max 發布,提供專有基準比較基礎
2025-04
Qwen3 系列發布,包括 32B 密集模型與多種 MoE 變體
2026-03
Qwen3.5-2B 與 35B-A3B 發布,引入多模態與擴展 MoE 架構
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。