🐼較早收集於 17m

Ascend 910C 完成 1.6 兆參數模型訓練

Ascend 910C 完成 1.6 兆參數模型訓練
PostLinkedIn
🐼閱讀原文: Pandaily

💡首個證明國產硬體能處理 1 兆以上參數模型訓練的重大案例,象徵 AI 基礎設施的轉變。

⚡ 30-Second TL;DR

有什麼變化

Ascend 910C 成功訓練 1.6 兆參數模型

為什麼重要

此突破顯示中國國產硬體在處理前沿規模模型訓練的能力日益增強,可能降低對進口 GPU 的依賴。

下一步行動

若您正在為中國市場開發大規模模型,請評估 Ascend 910C 叢集的效能指標。

誰應關注:Researchers & Academics

關鍵要點

  • Ascend 910C 成功訓練 1.6 兆參數模型
  • 由 Huawei、深圳河套學院及多個研究機構共同合作
  • 證明國產硬體在大規模模型訓練上的可行性

🧠 深度解析

Web-grounded analysis with 31 cited sources.

🔑 增強重點摘要

  • 此次訓練成功完成了DeepSeek-V4-Pro 1.6兆參數模型的全參數後訓練,這與過去中國國內運算平台主要用於推論或小參數微調的情況不同,標誌著國內AI晶片在支援超大規模模型深度訓練任務上的技術可行性。
  • 該合作團隊利用了超過1,000顆昇騰910C晶片組成的運算叢集,並透過優化分散式工作負載分配和負載平衡策略,成功克服了通訊瓶頸,在超過1,500個訓練步驟中實現零系統故障,模型浮點運算利用率(MFU)超過30%,關鍵運算子效率提升14%。
  • 昇騰910C採用雙晶片封裝設計,整合了兩顆昇騰910B晶片,其FP16精度下的單卡運算能力估計可達約800 TFLOPS,約為NVIDIA H100晶片(2022年推出)的80%。
  • 華為計劃在2026年將昇騰910C晶片的產量提高至約60萬片,是前一年的兩倍,並預計在2026年將整個昇騰產品線的晶片出貨量提高到160萬片,以滿足中國國內對AI晶片日益增長的需求。
  • 昇騰910C的成功訓練,是中國在美國出口管制下,推動半導體自給自足戰略的重要一步,旨在將國內AI產業鏈從僅支援推論轉向實現超大模型的全參數訓練。
📊 競品分析▸ Show

昇騰910C 與主要競爭對手比較

特性/指標華為 昇騰910C (Ascend 910C)NVIDIA H100 (Hopper)NVIDIA B200 (Blackwell)
製程節點中芯國際7奈米 (N+2)台積電4奈米台積電4奈米 (或更先進)
FP16 運算能力約800 TFLOPS (單卡)1950 TFLOPS (Transformer Engine with FP8) / 989 TFLOPS (FP16)約2500 TFLOPS (FP16)
記憶體頻寬約3.2 TB/s (HBM2e/HBM3)3.35 TB/s (HBM3) / 4.8 TB/s (HBM3e)8 TB/s (HBM3e)
記憶體容量128 GB (HBM)80 GB (HBM2e)192 GB (HBM3e)
功耗 (TDP)550 W (單卡) / CloudMatrix 384系統約559 kW700 W145 kW (GB200 NVL72系統)
架構達文西 (DaVinci) 架構,雙晶片封裝 (兩顆910B)Hopper 架構Blackwell 架構
互連技術HCCS, PCIe 4.0, RoCE v2, 512 GB/s 網狀網路NVLinkNVLink
軟體生態系MindSpore, CANN (與CUDA相容性提升)CUDA, TensorRT, cuDNN (業界標準)CUDA, TensorRT, cuDNN
市場定位中國國內AI訓練與推論,替代NVIDIA晶片全球AI訓練與推論市場領導者全球AI訓練與推論市場領導者

分析:

華為昇騰910C在單晶片性能上仍落後於NVIDIA的H100,尤其與NVIDIA最新的Blackwell系列B200相比,差距更為顯著,B200的運算性能約為910C的三倍,記憶體頻寬約為2.5倍。昇騰910C採用雙晶片封裝,雖然提升了性能,但其晶片間互連頻寬可能遠低於NVIDIA的先進封裝解決方案。此外,910C的邏輯晶片面積比H100大約60%,表明在架構效率和設計優化方面仍有差距。

然而,在美國出口管制下,昇騰910C已成為中國國內AI晶片市場的主要替代品。華為透過其CloudMatrix系統,將多達384顆910C晶片組合成光學網狀網路,實現了系統級的性能提升,在某些系統級指標上甚至能超越NVIDIA GB200 NVL72,儘管單晶片性能較弱。此外,華為的MindSpore軟體框架和CANN運算架構,正努力提升與CUDA的相容性,以降低開發者遷移的門檻。中國政府也透過採購評估系統,為國內AI晶片創造了受保護的需求管道,進一步鞏固了華為在國內市場的地位。

🛠️ 技術深入

  • 架構與微架構特點:昇騰910C NPU整合了多個AI核心,每個核心包含高吞吐量的矩陣乘法立方體單元(AIC)、寬向量SIMD引擎(AIV)、純量單元和多級暫存記憶體。
  • AI核心:每個AI核心包含256x256張量(立方體)陣列,8x8寬向量管線和8個純量單元。
  • 峰值吞吐量
    • 張量運算:400 TFLOPS (BF16/FP16),100 TFLOPS (FP32),800 TOPS (INT8)。
    • 立方體單元:高達8 TFLOP/核心 (FP16)。
    • 向量單元:48 GFLOP/通道 (FP32)。
  • 片上記憶體
    • L1緩衝區:128–512 KB/核心。
    • L2快取:32 MB共享,總片上內部頻寬1 TB/s。
    • L0A/L0B/L0C:專用於立方體運算元暫存和部分和的緩衝區。
    • 統一緩衝區 (UB):196 KB/核心,用於低延遲瓦片運算。
  • 互連
    • AI核心之間:512 GB/s雙向網狀網路。
    • 主機-NPU通訊:PCIe 4.0 x16 (64 GB/s)。
    • 多節點叢集:透過PCIe或TCP上的HCCL (Huawei Collective Communication Library) 實現分散式通訊。
  • 製程與封裝:昇騰910C採用中芯國際的7奈米 (N+2) 製程,擁有530億個電晶體。它採用雙晶片封裝設計,將兩顆昇騰910B晶片整合在一起,類似於NVIDIA B200的設計,透過有機基板連接兩個獨立的晶片中介層。
  • 記憶體:整合HBM2e高頻寬記憶體,總頻寬約3.2 TB/s,容量128 GB。
  • 軟體棧:支援華為的MindSpore深度學習框架和CANN (Compute Architecture for Neural Networks) 運算架構,提供自動並行、模型並行和混合並行能力,以高效訓練大型模型。
  • 系統級整合:昇騰910C是華為CloudMatrix AI資料中心架構的核心,該架構可將384顆昇騰910C NPU與192顆鯤鵬CPU等硬體組件整合到統一的超級節點中,透過超高頻寬、低延遲的統一匯流排 (UB) 網路互連。

🔮 前景展望AI analysis grounded in cited sources

中國AI晶片自給自足能力顯著提升
昇騰910C成功完成1.6兆參數模型的全參數後訓練,證明了中國國產AI硬體已能支援超大規模模型的深度訓練任務,降低對進口晶片的依賴。
華為在中國AI晶片市場的主導地位將進一步鞏固
隨著美國對NVIDIA等公司實施出口管制,以及中國政府對國內AI晶片的採購支持,華為昇騰系列晶片在中國市場的市佔率預計將大幅增長。
中國AI生態系統將加速發展
昇騰910C的成功以及華為持續推出新一代AI晶片的計畫,將鼓勵更多中國企業和研究機構基於國產硬體和軟體(如MindSpore)進行AI模型開發和創新。

時間線

2018-10
華為首次公佈AI戰略並發布昇騰910和昇騰310 AI晶片。
2019-08
華為正式推出昇騰910 AI處理器。
2020-09
華為因美國制裁失去台積電先進製程代工能力。
2022
華為推出第二代昇騰910B晶片,採用中芯國際7奈米製程,性能有所提升。
2025-05
昇騰910C晶片開始大規模出貨,旨在替代NVIDIA在中國市場的AI晶片。
2026-06
華為與深圳河套學院等聯盟利用昇騰910C完成1.6兆參數DeepSeek-V4-Pro模型的全參數後訓練。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Pandaily