💼較早收集於 19m

阿里巴巴 Qwen3.5-9B 擊敗 GPT-oss-120B,可在標準筆電運行

阿里巴巴 Qwen3.5-9B 擊敗 GPT-oss-120B,可在標準筆電運行
PostLinkedIn
💼閱讀原文: VentureBeat
#open-source#multimodal#efficient-models#benchmarksqwen3.5-small-model-seriesalibabaqwen3.5-9bopenaigpt-oss-120bhugging-face

💡9B 開源模型擊敗 120B GPT 對手——可在筆電運行!

⚡ 30-Second TL;DR

有什麼變化

Qwen3.5-9B 在多語言知識和研究生級推理基準中超越 OpenAI 的 gpt-oss-120B

為什麼重要

這些小型模型使資源受限硬體也能運行高效能 AI,挑戰雲端依賴並加速邊緣 AI 採用。開發者獲得可自訂、高效的替代大型專有模型方案。

下一步行動

從 Hugging Face 下載 Qwen3.5-9B 權重,並在你的筆電上基準測試推理效能。

誰應關注:Developers & AI Engineers

關鍵要點

  • Qwen3.5-9B 在多語言知識和研究生級推理基準中超越 OpenAI 的 gpt-oss-120B
  • 4B 模型支援 262k 權杖上下文視窗,透過早期融合實現原生多模態
  • 混合架構採用 Gated Delta Networks 和稀疏 MoE,提升吞吐量並降低延遲
  • 模型針對邊緣設備優化,可在標準筆電運行,Apache 2.0 授權

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 5 個來源。

🔑 增強重點摘要

  • Qwen3.5-9B 在 GPQA Diamond 得分 81.7,高於 GPT-OSS-120B 的 71.5,並在 HMMT Feb 2025、MMMU-Pro 和 ERQA 等基準中領先。[1]
  • Qwen3.5-9B 在視覺任務中大幅超越 GPT-5-Nano,包括 MMMU-Pro (70.1 vs 57.2)、MathVision (78.9 vs 62.2) 和 OmniDocBench (87.7 vs 55.9)。[2]
  • Qwen3.5-9B 使用 4-bit 量化僅需約 5GB 記憶體,可在 RTX 3060 12GB 或 M1 Mac 上運行,並支援 262K 至 1M 上下文視窗。[2]
📊 競品分析▸ Show
特徵/基準Qwen3.5-9BGPT-OSS-120BGPT-5-NanoQwen3-30B
GPQA Diamond81.7 [1][2]71.5 [1]-73.7 [2]
MMMU-Pro70.1 [1][2]59.7 [1]57.2 [2]-
OmniDocBench87.7 [1][2]-55.9 [2]-
MMMLU (多語言)81.2 [1]---
參數規模9B [1][2]120B [1]-30B [2]
硬體需求 (4-bit)~5GB, RTX 3060/M1 Mac [2]--需要 A100 叢集 [2]

🛠️ 技術深入

  • 採用 Gated DeltaNet 混合注意力機制,實現常數記憶體的 262K 至 1M 上下文視窗。[2]
  • 基於 Qwen3-Next 架構,整合高稀疏 MoE、Gated DeltaNet + Gated Attention 混合注意力,以及穩定性優化和多 token 預測。[3]
  • 9B 密集模型,在 BF16 下適合單一 RTX 3090 或 24GB GPU,4-bit 量化後降至約 5GB。[2]

🔮 前景展望AI analysis grounded in cited sources

小型模型將主導邊緣 AI 應用
Qwen3.5-9B 以 9B 參數超越 120B 模型,證明高效架構可使高性能 AI 在消費級硬體上運行,加速邊緣部署。[1][2]
中國 AI 模型縮小與美國差距至三個月內
Qwen3.5 挑戰 Gemini 3.0 並在基準中領先,顯示中國實驗室快速追趕美國頂級模型。[3]

時間線

2026-03
阿里巴巴 Qwen 團隊發布 Qwen3.5 小型模型系列,包括 0.8B、2B、4B 和 9B 模型
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: VentureBeat

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。