🕷️
SetupAI
EN
🦙較早收集於 12h

Qwen3.5-397B 無審查 NVFP4 發布

Qwen3.5-397B 無審查 NVFP4 發布
PostLinkedIn
🦙閱讀原文： Reddit r/LocalLLaMA
#uncensored-model#quantization#nvfp4#qwenqwen3.5-397b-uncensored-nvfp4qwen3.5-397b

💡無審查 397B Qwen NVFP4—立即本地運行巨型 LLM（20字元）

⚡ 30-Second TL;DR

有什麼變化

Qwen3.5-397B 模型的無審查版本

為什麼重要

無審查 397B Qwen 量化讓頂級本地 AI 無對齊限制，普及存取。提升研究者在消費級硬體上的實驗。

下一步行動

從 Reddit 連結下載 Qwen3.5-397B 無審查 NVFP4，並在本地執行推理基準測試。

誰應關注：Developers & AI Engineers

關鍵要點

  • •Qwen3.5-397B 模型的無審查版本
  • •以 NVFP4 格式量化提升效能
  • •透過 Reddit r/LocalLLaMA 分享
  • •針對本地 LLM 愛好者

🧠 深度解析

背景與延伸：來自公開資料，非原文內容。引用 9 個來源。

🔑 增強重點摘要

  • •Qwen3.5-397B-A17B 是多模態基礎模型，支持圖像、影片輸入，並在 MMLU-Pro 達 87.8%、VideoMME 達 87.5% 等基準測試中表現優異。[1][3]
  • •採用混合專家（MoE）架構，總參數 397B 但僅激活 17B，提供 8.6x 至 19x 解碼速度提升，相較前代更高效。[2][3]
  • •原生上下文長度 262,144 個 token，可透過 YaRN RoPE 擴展至 1,010,000 token，支援高解析度圖像（至 1344x1344）。[1][3]
📊 競品分析▸ Show
模型總/激活參數上下文長度基準表現 (e.g., Intelligence Index)定價 (輸入/輸出 per M tokens)
Qwen3.5-397B-A17B397B/17B262K (擴至1M)45 (GDPval-AA ELO 1,221) [4]$0.60 / $3.60 [3]
Kimi K2.51T/32B未指定高於 Qwen3 235B [4]未指定
GLM-5744B/40B未指定高輸出 token 消耗 [4]未指定
DeepSeek V3.2671B/37B未指定激活參數較多 [4]未指定

🛠️ 技術深入

  • 架構：Transformer 因果語言模型結合視覺編碼器，使用 Qwen3.5 混合 MoE 與 Gated DeltaNet，60 層，隱藏維度 4,096，詞彙大小 248,320。[1]
  • Gated DeltaNet：值（V）64 線性注意力頭，查詢/鍵（QK）16 頭，頭維度 128；每層 15 × (3 × (Gated DeltaNet → MoE) → 1 × (Gated Attention → MoE)) 佈局。[1][2]
  • 輸入：文字、圖像（RGB，至 1344x1344）、影片（MP4/WebM），統一多模態架構，早融合訓練，ViT 編碼器 + 混合 MoE（10 路由專家 + 1 共享，共 512）。[1][3]
  • 效率：稀疏 MoE 僅激活 17B 參數，多 token 預測（MTP），相較 Qwen3-Max 解碼快 8.6-19x。[3]

🔮 前景展望AI analysis grounded in cited sources

本地巨型模型推理門檻大幅降低
NVFP4 量化結合 17B 激活參數，使 397B 模型能在消費級硬體高效運行，加速開源社群採用。[3]
多模態代理應用將普及
原生視覺語言能力與 1M token 上下文，支持 AI 代理處理影片與程式碼庫，超越純文字模型。[1][2]
Qwen 系列領先 MoE 效率競爭
相較競爭者較少激活參數與更高基準分數，Qwen3.5 設定新標準，推動產業向稀疏架構轉移。[4]

⏳ 時間線

2026-02
Alibaba Qwen 團隊發布 Qwen3.5-397B-A17B 多模態 MoE 模型
2026-01
Qwen-Max 更新，整合思考模式與外部工具，提升複雜任務效能
2025-12
Qwen-Plus 穩定版本發布，支援 32K 至 81K CoT 上下文
2025-09
Qwen3 系列基準模型快照，奠定後續多模態基礎
2025-04
Qwen-Turbo 發布，引入 Qwen3 系列批次呼叫優惠
🦙閱讀原文： Reddit r/LocalLLaMA
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

同主題

探索 #uncensored-model

同產品

更多關於 Qwen Chat

同來源

最新來自 Reddit r/LocalLLaMA

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Reddit r/LocalLLaMA ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週 AI 簡報

每週一封，可隨時退訂。