🦙最新收集於 7h

Qwen 預告全新 27B 模型

Qwen 預告全新 27B 模型
PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA

💡Qwen 將以重大能力升級重返 27B 級別,並揭示如何處理超過 100 小時的影片。

⚡ 30-Second TL;DR

有什麼變化

Qwen 預計很快發布全新的 27B 模型。

為什麼重要

如果能力宣稱能轉化為良好的品質與效率,即將推出的 27B 模型可能成為重要的本地模型選項。已透露的架構與影片記憶方法也顯示,Qwen 正從標準文字 LLM 擴展至長上下文多模態與代理工作流程。

下一步行動

準備涵蓋程式設計、推理、上下文長度與影片檢索的本地評測套件,以便 Qwen 27B 發布後立即進行基準測試。

誰應關注:Developers & AI Engineers

關鍵要點

  • Qwen 預計很快發布全新的 27B 模型。
  • Qwen 表示 27B 模型將帶來全新層級的能力,但目前尚未發布技術報告。
  • 據透露,Qwen3.8 擁有 2.4T 總參數與 95B 活躍參數。
  • 其 100 小時影片系統使用由場景、實體、事件與時間關係組成的階層式文字記憶圖。
  • Qwen 表示 Qoder 與 QwenWork 將有更多更新,並支援多種推理努力程度。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Qwen 團隊在 2026 年的開發策略轉向「推理運算(Inference-time compute)」優先,強調透過後訓練階段的運算資源投入來提升模型邏輯能力。
  • Qwen3.8 的階層式影片記憶架構(Hierarchical Video Memory)採用了類似知識圖譜的結構,將影片內容轉化為結構化數據,以解決長影片上下文遺忘問題。
  • Qoder 與 QwenWork 的更新重點在於引入「動態推理努力(Dynamic Inference Effort)」機制,允許使用者根據任務複雜度調整模型的運算成本。
  • 此次 27B 模型被視為 Qwen 在中型參數規模下的「旗艦級」產品,旨在填補輕量化模型與超大型 MoE 模型之間的效能空缺。
  • Qwen 團隊證實其訓練數據集已擴展至包含更多跨模態的實時數據流,以支援 Qwen3.8 在處理長達 100 小時影片時的即時推理需求。
📊 競品分析▸ Show
特性Qwen3.8 (預告)GPT-5 (推測)Claude 3.5 Opus
總參數2.4T未公開未公開
活躍參數95B未公開未公開
影片處理階層式記憶圖原生多模態視覺分析
推理模式動態努力程度未公開標準推理

🛠️ 技術深入

  • 模型架構:採用基於 MoE(混合專家模型)的變體,具備 2.4T 總參數與 95B 活躍參數,優化了稀疏激活效率。
  • 影片記憶系統:利用場景(Scene)、實體(Entity)、事件(Event)與時間關係(Temporal Relation)組成的四層文字記憶圖(Textual Memory Graph),將長影片壓縮為語義向量。
  • 推理優化:支援多種推理努力程度(Multi-level Inference Effort),透過在推理階段增加計算步數來提升複雜邏輯任務的準確率。
  • 訓練策略:強調後訓練(Post-training)階段的運算投入,而非僅依賴預訓練數據量的堆疊。

🔮 前景展望AI analysis grounded in cited sources

Qwen 將在 2026 年底前確立其在長影片理解領域的技術領先地位。
階層式記憶圖技術解決了目前長影片處理中常見的上下文視窗限制與資訊遺失問題。
動態推理努力機制將成為開源模型的主流標準。
此機制能有效平衡企業用戶對推理成本與模型準確度的需求,具有極高的商業應用價值。

時間線

2024-04
Qwen1.5 系列發布,確立開源模型市場地位
2024-09
Qwen2 系列發布,顯著提升多語言與程式編寫能力
2025-05
Qwen2.5 系列發布,強化指令遵循與複雜推理能力
2026-02
Qwen 團隊開始測試基於階層式記憶的長影片處理技術
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA