🏠較早收集於 2m

摩爾線程 S5000 完成九天 35B 適配

摩爾線程 S5000 完成九天 35B 適配
PostLinkedIn
🏠閱讀原文: IT之家
#chinese-gpu#llm-adaptationmtt-s5000mtt-s5000moore-threadsjiu-tian-35bchina-mobilemusa

💡國產 GPU 高效運行 35B 大模型-對國內 AI 堆疊與企業採用至關重要。(38字元)

⚡ 30-Second TL;DR

有什麼變化

MTT S5000 透過 MUSA 及 SGLang-MUSA 完成九天 35B 全鏈路適配。

為什麼重要

推動中國國產 AI 基礎設施發展,讓央企能在本土 GPU 上部署大模型,無需依賴外國晶片。提升全球晶片緊張下的自給自足能力。

下一步行動

使用 MUSA 軟體棧在 MTT S5000 上測試您的 LLM 推理基準,評估國產硬體。

誰應關注:Enterprise & Security Teams

關鍵要點

  • MTT S5000 透過 MUSA 及 SGLang-MUSA 完成九天 35B 全鏈路適配。
  • 1000 TFLOPS 稠密 AI 算力、80GB 顯存、1.6TB/s 頻寬。
  • 針對注意力機制與長序列推理優化算子。
  • 支援央企大模型高併發推理需求。

🧠 深度解析

本篇為 AI 生成分析,非原文內容。

🔑 增強重點摘要

  • 摩爾線程 S5000 採用了自研的 MUSA 架構,該架構在軟體層面透過與 SGLang 的深度整合,實現了對主流大模型推理框架的無縫支援,降低了國產硬體遷移成本。
  • S5000 在硬體設計上針對記憶體頻寬進行了強化,其 1.6TB/s 的頻寬指標旨在解決大模型推理過程中常見的記憶體牆(Memory Wall)瓶頸,特別是在處理長上下文(Long Context)任務時。
  • 此次適配九天 35B 模型標誌著摩爾線程在央企國資雲生態中的落地進程加速,顯示其產品已具備滿足金融、電信等高安全性與高併發要求行業的商用部署能力。
📊 競品分析▸ Show
特性摩爾線程 MTT S5000NVIDIA H20華為昇騰 910B
顯存容量80GB96GB48GB/64GB
記憶體頻寬1.6TB/s4.0TB/s2.4TB/s
架構生態MUSA (自研)CUDA (封閉)CANN (自研)
市場定位中國國產替代/高併發推理受限出口版/通用推理國產算力主力/訓練推理

🛠️ 技術深入

  • 核心架構:基於 MUSA 統一計算架構,支援 FP8/FP16/BF16/FP32/FP64 多精度運算,特別針對 Transformer 模型中的 Attention 機制進行了硬體加速算子優化。
  • 記憶體系統:配備 80GB 高頻寬顯存,透過優化記憶體存取路徑,減少大模型推理時的延遲。
  • 軟體棧:整合 SGLang-MUSA,支援動態批處理(Dynamic Batching)與連續批處理(Continuous Batching)技術,顯著提升高併發場景下的吞吐量。
  • 互聯技術:支援多卡互聯技術,可擴展至大規模集群,滿足 35B 參數級別模型在多節點環境下的推理需求。

🔮 前景展望AI analysis grounded in cited sources

摩爾線程將在 2026 年底前實現對 100B 以上參數模型的原生推理支援。
隨著 MUSA 軟體棧對長文本與高併發優化的成熟,其硬體集群擴展能力將成為突破超大規模模型推理瓶頸的關鍵。
國產 GPU 在央企大模型採購中的市佔率將在 2026 年顯著提升。
九天 35B 等國產大模型與摩爾線程等國產硬體的成功適配,降低了央企在基礎設施層面的供應鏈風險。

時間線

2020-10
摩爾線程正式成立,專注於 GPU 研發。
2022-03
發布首款國產全功能 GPU MTT S60 及 MUSA 架構。
2023-05
發布專為數據中心設計的 MTT S2000 系列 GPU。
2024-07
摩爾線程發布 MTT S5000,定位於高效能 AI 推理與算力中心。
2026-04
完成中國移動九天 35B 模型全流程適配與驗證。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: IT之家

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。