🇭🇰最新收集於 1m

中國 AI 晶片難以應付程式編寫推理

中國 AI 晶片難以應付程式編寫推理
PostLinkedIn
🇭🇰閱讀原文: SCMP Technology

💡程式編寫推理正暴露國產晶片的不足,以及團隊如何應對稀缺的 Nvidia 運算資源。

⚡ 30-Second TL;DR

有什麼變化

相較於模型訓練,推理工作負載更容易調整至中國國產 AI 硬體上執行。

為什麼重要

程式編寫推理能力的差距,可能提高中國 AI 公司的基礎設施成本與工程複雜度。這也顯示出口限制影響的不只是模型訓練能力,還包括已部署 AI 服務的實際運作效能。

下一步行動

在國產加速器 SDK 與 CUDA 上對程式編寫推理工作負載進行基準測試,並將對延遲敏感的請求路由至較快的後端。

誰應關注:Enterprise & Security Teams

關鍵要點

  • 相較於模型訓練,推理工作負載更容易調整至中國國產 AI 硬體上執行。
  • 複雜的程式編寫任務仍需要使用有限的高階 Nvidia 處理器。
  • 在 Nvidia 供應受限的情況下,中國 AI 公司正透過軟體最佳化延長現有運算資源的效用。

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 30 個來源。

🔑 增強重點摘要

  • 儘管面臨美國出口管制,市場研究機構TrendForce預計2026年中國高階AI晶片市場中,國產解決方案的市佔率將接近90%,而Nvidia等海外方案可能僅剩約10%的市場空間。
  • 華為昇騰系列晶片透過「以系統打晶片」的戰略,結合自研指令集、編譯器CANN及框架MindSpore,構建了完整的算力生態,並與DeepSeek等大模型達成合作,驗證了國產軟硬協同的潛力。
  • 中國AI晶片產業正從「訓練優先」轉向「推理主導」,2026年推理算力需求預計將達到訓練需求的4-5倍,專用推理ASIC晶片(如曲速科技的SRAM架構晶片)正逐步替代通用GPU成為主流。
  • 美國對中國的AI晶片出口管制已促使Nvidia執行長黃仁勳承認,Nvidia在中國AI加速器市場的市佔率已降至0%,他認為此限制政策已產生「反效果」,將市場拱手讓給華為等中國本土晶片製造商。
  • 中國AI晶片廠商正積極開發「軟體定義晶片」技術,例如東方算芯的DF1000,透過底層架構創新和3D堆疊近存計算,在14nm成熟製程下實現高算力,以減少對7nm以下先進製程的依賴。
📊 競品分析▸ Show

中國國產AI晶片與Nvidia晶片性能及生態比較

特性/產品華為昇騰910C/950PR寒武紀思元590東方算芯DF1000Nvidia H200Nvidia H20 (中國特規版)Nvidia A800 (中國特規版)
製程工藝7nm (910C), 中芯國際N+2 (7nm) (950)7nm14nm先進製程 (Hopper架構,H200採用)為符合管制而降規為符合管制而降規
總處理效能 (TPP)約12,032 (910C)約4,493 (思元590)BF16精度算力達520 TFLOPS約15,840約2,368N/A (A100降規版)
記憶體頻寬約3.2TB/s (910C)N/A (思元370為LPDDR5,頻寬是上一代3倍)6.4 TB/s4.8TB/sN/A (低於1.4 TB/s)400GB/s (A100為600GB/s)
HBM技術自研HBM (950PR)N/A (思元370支持LPDDR5)採用DRAM-Logic晶圓級混合鍵合3D垂直封裝搭載HBM3N/A (H200降規版)N/A (A100降規版)
軟體生態CANN、MindSpore (全棧自研)Cambricon Neuware平台,支持Tensorflow, Pytorch自主軟體生態CUDA (全球AI開發標準,龐大生態系)CUDA (受限於硬體性能)CUDA (受限於硬體性能)
主要應用訓練與推理 (950PR面向推理Prefill和推薦,950DT面向推理Decode和訓練)雲端、邊緣AI處理器,訓推一體大模型訓練與推理高階AI模型訓練與推理訓練與推理 (降規)數據中心、AI深度運算 (降規)
市場定位中國本土市場領軍者,政府支持中國AI晶片龍頭之一,對標Nvidia高階晶片透過架構創新繞過製程限制全球高階AI晶片市場領導者中國特規市場中國特規市場
與Nvidia相容性950PR與CUDA相容性更高需大量工程資源進行模型遷移和適配搭配自主軟體生態原生兼容原生兼容原生兼容
功耗950PR約600W (H20的1.5倍)N/AN/AN/AN/AN/A
市佔率 (中國市場)預計2026年超過50% (華為)預計2026年國產方案接近90% (寒武紀為主要廠商之一)N/A預計2026年下降至8%左右N/AN/A

🛠️ 技術深入

  • 華為昇騰系列 (Ascend)
    • 採用「以系統打晶片」戰略,透過自研指令集、編譯器CANN及框架MindSpore,構建完整軟硬體生態。
    • 昇騰950PR預計2026年第一季推出,主要面向推理Prefill階段和推薦業務場景,採用華為自研低成本HBM,並提升與Nvidia CUDA軟體系統的相容性。
    • 昇騰950DT預計2026年第四季推出,注重推理Decode階段和訓練場景,搭載HiZQ 2.0 HBM,提供更高頻寬與容量。
    • 昇騰950採用中芯國際N+2 (7nm) 製程,為確保良率,晶片面積約為910C的65%,限制在「半光罩」尺寸 (約400-429平方毫米)。
  • 寒武紀思元系列 (Cambricon MLU)
    • 思元370是寒武紀首款採用chiplet(芯粒)技術的AI晶片,基於7nm製程,集成了390億個晶體管,最大算力達256TOPS(INT8)。
    • 採用最新智能晶片架構MLUarch03,並是國內首款公開發布支持LPDDR5記憶體的雲端AI晶片,記憶體頻寬是上一代產品的3倍。
    • 搭載MLU-Link™多芯互聯技術,為多顆晶片提供高效協同能力,每顆晶片提供200GB/s的額外跨晶片直接通訊能力。
    • 基礎軟體平台整合訓練和推理的底層軟體棧,包括驅動、運行時庫、算子庫和工具鏈,並新增推理加速引擎MagicMind,實現訓推一體。
  • 東方算芯DF1000
    • 宣稱是「全球首顆軟體定義近存計算3D AI晶片」,在14nm製程下,單卡BF16精度算力達到520 TFLOPS,訪存頻寬高達6.4 TB/s。
    • 採用「軟體定義晶片」技術,實現軟硬體解耦與動態重構,透過空間並行與時分復用提升資源利用率,使其在成熟製程下達到高算力。
    • 是中國首顆採用DRAM-Logic晶圓級混合鍵合(Hybrid Bonding)3D垂直封裝的AI晶片,將計算層與儲存層緊密堆疊,互連間距壓縮至亞微米級,打破傳統AI晶片的「記憶體牆」與「頻寬牆」。
  • 軟體優化與生態
    • 中國AI公司正透過「雕花」技術,從既有設備中榨取更多效能,以應對先進設備受限的問題。
    • 華為CANN被稱為「晶片真正的核心」、「昇騰的靈魂」,沒有CANN,昇騰晶片只是一塊廢鐵。
    • 國產晶片即便性能達到可用水準,也往往需要等模型發布後,再投入大量工程資源重新做遷移和適配,以解決與Nvidia CUDA生態的兼容性問題。

🔮 前景展望AI analysis grounded in cited sources

中國AI晶片在推理市場的自主化將加速,並可能在特定應用領域超越Nvidia。
隨著AI應用擴容和國產替代加速,推理算力需求爆發,中國廠商正專注於開發高能效比的推理專用ASIC晶片,並在軟體定義晶片和3D封裝等架構創新上取得突破,有望在邊緣端側等推理市場佔據主導地位。
Nvidia在中國高階AI晶片市場的份額將持續萎縮,並可能被迫進一步調整其全球戰略。
美國的出口管制政策已導致Nvidia在中國AI加速器市場的市佔率降至0%,且中國本土解決方案的市佔率預計將接近90%,這將迫使Nvidia重新評估其在中國市場的策略,並可能影響其全球營收和技術生態的影響力。
中國AI晶片產業將更加注重軟硬體協同和生態系統建設,以彌補與Nvidia CUDA生態的差距。
儘管硬體性能有所提升,但Nvidia CUDA生態的護城河依然存在,中國廠商如華為、寒武紀正透過自研軟體框架、編譯器和推理加速引擎,並與國內大模型合作,努力降低開發門檻和遷移成本,以建立自主可控的軟體生態。

時間線

2022-10
美國商務部實施對中國先進運算晶片及半導體製造設備的出口管制,限制中國獲取高端晶片的能力。
2022-11
Nvidia為符合美國禁令,推出為中國市場定製的A800晶片,降低了A100的資料傳輸速率。
2023-10
美國升級AI晶片對華出口管制,擴大性能門檻和性能密度臨界點限制,並新增實體清單。
2025-01
DeepSeek大模型引爆AI算力需求,加速國產替代進程,寒武紀等國產晶片廠商股價飆升。
2025-04
美國政府將Nvidia H20晶片列入出口管制清單,進一步限制對中國市場的高效能AI晶片出口。
2026-03
華為發布搭載全新昇騰950PR處理器的AI訓練推理加速卡Atlas350,並傳出字節跳動和阿里巴巴計劃大量採購。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: SCMP Technology

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。