Qwen3.5 35B-A3B 透過評論規避零推理限制

🔑 增強重點摘要

• •Qwen3.5-35B-A3B 採用混合架構，整合線性注意力機制與稀疏混合專家（MoE），總參數 35B 但每次僅激活 3B。
• •模型支援原生 262,144 tokens 上下文長度，並具備視覺語言理解與工具使用能力，在多模態基準測試中超越前代模型。
• •透過 'Enable Thinking' 自訂參數控制模型在回應前進行思考，支援 OpenRouter 的 reasoning 參數顯示逐步推理過程。

🛠️ 技術深入

• •總參數 35B，激活參數 3B，使用 Gated Delta Networks 結合稀疏 MoE（256 專家，路由 8 個 + 1 共享活躍）。
• •支援多模態學習，早融合訓練實現視覺理解、編碼與代理任務，在 IFEval 得分 91.9。
• •原生上下文長度 262,144 tokens，強化學習擴展至百萬代理環境，提升泛化能力。
• •支援 201 種語言與方言，全量化版本 VRAM 消耗低於 37GB。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線