📋TestingCatalog•最新收集於 28m
Tencent 開源 770B Hy4 預覽模型
#770b-parameters#coding#long-contexthy4tencenthy4
💡了解 Tencent 的開源 770B 模型，以及罕見的 100 萬 token 上下文視窗。
⚡ 30-Second TL;DR
有什麼變化
Hy4 是 Tencent 發布的開源預覽模型。
為什麼重要
開源形式加上 100 萬 token 上下文視窗，可能讓開發者以相當大的模型規模實驗長上下文工作流程。開發者與研究人員可評估 Hy4 是否適合程式設計、文件密集型及研究導向應用。
下一步行動
從 Tencent 的官方發布管道下載 Hy4 預覽模型，並以具代表性的程式設計或文件檢索工作負載測試其長上下文效能。
誰應關注：Researchers & Academics
關鍵要點
- •Hy4 是 Tencent 發布的開源預覽模型。
- •模型擁有 7,700 億參數。
- •支援 100 萬 token 的上下文視窗。
- •目標能力涵蓋程式設計、辦公任務、遊戲與研究。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 11 個來源。
🔑 增強重點摘要
- •Hy4 採用混合專家模型 (MoE) 架構，總參數達 7,700 億，但在處理每個 token 時僅激活 490 億參數。
- •該模型採用 Apache License 2.0 授權，明確允許商業用途，降低了企業部署的法律門檻。
- •技術架構整合了門控 DeepSeek 稀疏注意力機制 (DSA) 與 100 億參數的多 token 預測 (MTP) 層，以優化推論效率。
- •在內部盲測中，Hy4 在 163 位專家與 203 項工程任務評估中，以 2.99 分的平均分超越了 GLM-5.3 與 Kimi K3。
- •Tencent 同步提供了 vLLM 與 SGLang 的官方 Docker 映像檔及量化工具包，以支援開發者進行部署與微調。
📊 競品分析▸ Show
| 特性 | Tencent Hy4 | GLM-5.3 | Kimi K3 |
|---|---|---|---|
| 參數規模 | 770B (MoE) | 未公開 | 未公開 |
| 上下文視窗 | 1M+ tokens | 未公開 | 未公開 |
| 內部評測得分 | 2.99 | 2.92 | 2.94 |
| 授權模式 | Apache 2.0 | 專有/限制 | 專有 |
🛠️ 技術深入
- 架構類型：混合專家模型 (MoE)。
- 激活參數：每個 token 激活 490 億參數。
- 核心技術：整合門控 DeepSeek 稀疏注意力 (DSA) 機制。
- 推論優化：內建 10B 參數的多 Token 預測 (MTP) 層，用於加速投機解碼。
- 生態支援：提供 vLLM 與 SGLang 官方 Docker 映像檔及專用量化工具。
🔮 前景展望AI analysis grounded in cited sources
Hy4 將顯著提升 Tencent Cloud 在企業級 AI 解決方案的市佔率。
透過 Apache 2.0 開源授權與完整的部署工具鏈，企業能更低成本地將模型整合至內部工作流。
多 Token 預測 (MTP) 技術將成為大型語言模型推論加速的標準配置。
Hy4 成功將 MTP 層整合至旗艦模型中，證明了該技術在處理長上下文任務時的顯著效能提升。
⏳ 時間線
2026-08
Tencent 正式發布並開源 Hy4 預覽模型
📎 來源 (11)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰 事件追蹤
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： TestingCatalog ↗
每週 AI 簡報
每週一封，可隨時退訂。