🐼Pandaily•最新收集於 21m
WeChat 測試 6170 億參數的 Xiaowei Agent
💡WeLM 的6170億稀疏模型展示消費級應用如何更有效率地部署前沿規模 Agent。
⚡ 30-Second TL;DR
有什麼變化
Xiaowei 是目前正在 WeChat 內部灰度測試的原生 AI 助手。
為什麼重要
這項更新顯示 Tencent 正努力將大規模語言模型直接整合至高頻使用的通訊平台。稀疏啟用可能讓超大型模型更具實用性，但實際延遲、品質與服務成本仍未披露。
下一步行動
以每個 token 啟用230億參數的假設建立 MoE 服務成本模型，並將延遲與目前使用的稠密模型進行基準測試。
誰應關注：Developers & AI Engineers
關鍵要點
- •Xiaowei 是目前正在 WeChat 內部灰度測試的原生 AI 助手。
- •WeLM 已擴展為總參數達6170億的稀疏混合專家模型。
- •每個 token 僅啟用230億參數，團隊並正探索將 Hidden Decoding 作為擴展方向。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •WeLM 模型最初由騰訊混元團隊開發，旨在解決中文語境下的複雜推理與長文本處理能力。
- •Xiaowei Agent 的灰度測試不僅限於對話，還整合了微信生態內的服務調用，如小程序與支付接口的深度聯動。
- •Hidden Decoding 技術旨在通過隱層狀態的預測來減少計算冗餘，從而進一步降低推理延遲。
- •該模型在訓練過程中使用了騰訊自研的混元大規模分佈式訓練框架，支持萬億級參數的穩定訓練。
- •Xiaowei 的測試重點在於提升微信用戶在社交場景下的意圖識別準確率，特別是針對多輪對話的上下文記憶能力。
📊 競品分析▸ Show
| 特性 | Xiaowei (WeChat) | ChatGPT (OpenAI) | Claude (Anthropic) |
|---|---|---|---|
| 核心優勢 | 微信生態深度整合 | 通用推理與插件生態 | 長文本處理與代碼能力 |
| 架構 | 6170億參數 MoE | 閉源 (推測 MoE) | 閉源 |
| 應用場景 | 社交、生活服務 | 辦公、編程、創作 | 數據分析、長文寫作 |
🛠️ 技術深入
- 模型架構：採用稀疏混合專家模型 (Sparse Mixture-of-Experts, MoE)，總參數 6170 億，激活參數 230 億。
- 推理優化：引入 Hidden Decoding 技術，通過預測隱層狀態來優化解碼過程，提升生成效率。
- 訓練基礎：基於騰訊混元大模型底座，利用分佈式並行計算技術處理超大規模參數。
- 部署策略：採用端雲協同架構，部分輕量級任務在端側處理，複雜推理則調用雲端 MoE 模型。
🔮 前景展望AI analysis grounded in cited sources
微信將實現從社交工具向 AI 服務平台的轉型。
Xiaowei Agent 的深度集成將使微信成為用戶獲取各類 AI 服務的統一入口。
MoE 架構將成為騰訊後續大模型研發的主流方向。
6170 億參數的成功部署證明了騰訊在處理大規模稀疏模型上的技術成熟度。
⏳ 時間線
2022-04
騰訊首次發布 WeLM 模型，標誌著其在中文大模型領域的初步探索。
2023-09
騰訊正式發布混元大模型，為後續 Xiaowei 的技術底座奠定基礎。
2025-11
騰訊內部開始針對 Xiaowei Agent 進行小規模技術驗證。
2026-06
WeLM 升級至 6170 億參數 MoE 架構，並開始在微信內部進行灰度測試。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Pandaily ↗