🦙較早收集於 4h

Qwen 3.5 本地運行尺寸民調

PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA
#local-hardware#model-sizes#community-pollqwen-3.5qwen-3.5

💡查看 Qwen 3.5 哪種尺寸主宰本地運行—依社群硬體趨勢選擇

⚡ 30-Second TL;DR

有什麼變化

27B 模型適用單卡 GPU 設定

為什麼重要

強調本地 Qwen 3.5 的硬體需求,幫助從業人員依社群動能選擇最佳模型尺寸。

下一步行動

檢查 GPU 設定,從 Hugging Face 下載 27B Qwen 3.5 進行單卡測試。

誰應關注:Developers & AI Engineers

關鍵要點

  • 27B 模型適用單卡 GPU 設定
  • 35B 擠入 Mac Studio
  • 122B 用於多 GPU 系統
  • 討論社群支援程度

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 6 個來源。

🔑 增強重點摘要

  • Qwen 3.5 系列於2026年2月24日由阿里巴巴Qwen團隊發布,包括四個中型模型:122B-A10B(MoE,10B活躍參數)、35B-A3B(MoE,3B活躍參數)、27B(密集模型),支援262K token上下文長度[1]
  • 35B-A3B模型僅需8GB+ VRAM即可透過GGUF量化在單GPU上運行,並在多數基準測試中超越先前235B旗艦模型[1]
  • Qwen3.5系列新增多模態支援,提升代理任務表現,如122B-A10B在BFCL-V4達72.2、BrowseComp 63.8分數領先[1][3]
  • 社群測試顯示27B與35B在本地運行時,27B密集模型在特定任務如3D列印模擬中表現出色,適合資源受限環境[2][4]
📊 競品分析▸ Show
模型參數規模架構基準表現 (MMLU-Pro)定價 (每M token輸入/輸出)
Qwen3.5-122B-A10B122B (10B活躍)MoE + Hybrid Attn86.7未公開
Qwen3.5-27B27BDense86.1開源免費
Qwen3.5-35B-A3B35B (3B活躍)MoE85.3Alibaba Cloud託管
GPT-5 mini未公開未公開83.7未公開
Claude Sonnet 4.5未公開未公開80.8未公開

🛠️ 技術深入

  • Qwen3.5中型系列包含三個MoE模型(122B-A10B激活10B參數、35B-A3B激活3B參數)和一個密集27B模型,所有支援262K token上下文[1]
  • 35B-A3B為系列開源明星,每token僅路由3B參數,適用8GB VRAM GPU,使用GGUF量化運行,並內建1M token上下文、原生函數呼叫與工具支援[1]
  • 122B-A10B在代理基準領先:BFCL-V4 72.2、BrowseComp 63.8、Terminal-Bench 2 49.4,適合NVIDIA DGX Spark硬體[1]
  • 新增多模態支援,先前僅限Qwen3-VL模型,提升代理終端編碼應用[3][6]
  • 本地運行測試使用M3 Ultra Mac Studio 512GB RAM,Inferencer App自動過濾過大模型,27B需約99GB[2]

🔮 前景展望AI analysis grounded in cited sources

Qwen3.5中型模型將加速開源代理應用部署
其高效MoE設計與低VRAM需求使27B與35B適合單機本地運行,超越先前旗艦基準並支援多模態[1][3]
社群硬體民調將影響Qwen後續量化優化
Reddit討論聚焦單卡27B、Mac 35B、多GPU 122B,反映使用者硬體分布,可能引導開發者優先優化這些尺寸[1][2]
Qwen3.5基準領先將挑戰封閉模型如Claude Sonnet 4.5
在MMLU-Pro達86.7與代理任務超越競爭對手,開源特性促進快速迭代與廣泛採用[1]

時間線

2026-02-16
發布旗艦Qwen3.5-397B-A17B MoE模型
2026-02-24
推出Qwen3.5中型系列,包括122B-A10B、35B-A3B、27B模型
2026-02-26
YouTube發布Qwen3.5本地運行比較影片,使用M3 Ultra Mac Studio測試
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。