🇭🇰SCMP Technology•最新收集於 1m
中國 AI 晶片難以應付程式編寫推理

💡程式編寫推理正暴露國產晶片的不足,以及團隊如何應對稀缺的 Nvidia 運算資源。
⚡ 30-Second TL;DR
有什麼變化
相較於模型訓練,推理工作負載更容易調整至中國國產 AI 硬體上執行。
為什麼重要
程式編寫推理能力的差距,可能提高中國 AI 公司的基礎設施成本與工程複雜度。這也顯示出口限制影響的不只是模型訓練能力,還包括已部署 AI 服務的實際運作效能。
下一步行動
在國產加速器 SDK 與 CUDA 上對程式編寫推理工作負載進行基準測試,並將對延遲敏感的請求路由至較快的後端。
誰應關注:Enterprise & Security Teams
關鍵要點
- •相較於模型訓練,推理工作負載更容易調整至中國國產 AI 硬體上執行。
- •複雜的程式編寫任務仍需要使用有限的高階 Nvidia 處理器。
- •在 Nvidia 供應受限的情況下,中國 AI 公司正透過軟體最佳化延長現有運算資源的效用。
🧠 深度解析
背景與延伸:來自公開資料,非原文內容。引用 30 個來源。
🔑 增強重點摘要
- •儘管面臨美國出口管制,市場研究機構TrendForce預計2026年中國高階AI晶片市場中,國產解決方案的市佔率將接近90%,而Nvidia等海外方案可能僅剩約10%的市場空間。
- •華為昇騰系列晶片透過「以系統打晶片」的戰略,結合自研指令集、編譯器CANN及框架MindSpore,構建了完整的算力生態,並與DeepSeek等大模型達成合作,驗證了國產軟硬協同的潛力。
- •中國AI晶片產業正從「訓練優先」轉向「推理主導」,2026年推理算力需求預計將達到訓練需求的4-5倍,專用推理ASIC晶片(如曲速科技的SRAM架構晶片)正逐步替代通用GPU成為主流。
- •美國對中國的AI晶片出口管制已促使Nvidia執行長黃仁勳承認,Nvidia在中國AI加速器市場的市佔率已降至0%,他認為此限制政策已產生「反效果」,將市場拱手讓給華為等中國本土晶片製造商。
- •中國AI晶片廠商正積極開發「軟體定義晶片」技術,例如東方算芯的DF1000,透過底層架構創新和3D堆疊近存計算,在14nm成熟製程下實現高算力,以減少對7nm以下先進製程的依賴。
📊 競品分析▸ Show
中國國產AI晶片與Nvidia晶片性能及生態比較
| 特性/產品 | 華為昇騰910C/950PR | 寒武紀思元590 | 東方算芯DF1000 | Nvidia H200 | Nvidia H20 (中國特規版) | Nvidia A800 (中國特規版) |
|---|---|---|---|---|---|---|
| 製程工藝 | 7nm (910C), 中芯國際N+2 (7nm) (950) | 7nm | 14nm | 先進製程 (Hopper架構,H200採用) | 為符合管制而降規 | 為符合管制而降規 |
| 總處理效能 (TPP) | 約12,032 (910C) | 約4,493 (思元590) | BF16精度算力達520 TFLOPS | 約15,840 | 約2,368 | N/A (A100降規版) |
| 記憶體頻寬 | 約3.2TB/s (910C) | N/A (思元370為LPDDR5,頻寬是上一代3倍) | 6.4 TB/s | 4.8TB/s | N/A (低於1.4 TB/s) | 400GB/s (A100為600GB/s) |
| HBM技術 | 自研HBM (950PR) | N/A (思元370支持LPDDR5) | 採用DRAM-Logic晶圓級混合鍵合3D垂直封裝 | 搭載HBM3 | N/A (H200降規版) | N/A (A100降規版) |
| 軟體生態 | CANN、MindSpore (全棧自研) | Cambricon Neuware平台,支持Tensorflow, Pytorch | 自主軟體生態 | CUDA (全球AI開發標準,龐大生態系) | CUDA (受限於硬體性能) | CUDA (受限於硬體性能) |
| 主要應用 | 訓練與推理 (950PR面向推理Prefill和推薦,950DT面向推理Decode和訓練) | 雲端、邊緣AI處理器,訓推一體 | 大模型訓練與推理 | 高階AI模型訓練與推理 | 訓練與推理 (降規) | 數據中心、AI深度運算 (降規) |
| 市場定位 | 中國本土市場領軍者,政府支持 | 中國AI晶片龍頭之一,對標Nvidia高階晶片 | 透過架構創新繞過製程限制 | 全球高階AI晶片市場領導者 | 中國特規市場 | 中國特規市場 |
| 與Nvidia相容性 | 950PR與CUDA相容性更高 | 需大量工程資源進行模型遷移和適配 | 搭配自主軟體生態 | 原生兼容 | 原生兼容 | 原生兼容 |
| 功耗 | 950PR約600W (H20的1.5倍) | N/A | N/A | N/A | N/A | N/A |
| 市佔率 (中國市場) | 預計2026年超過50% (華為) | 預計2026年國產方案接近90% (寒武紀為主要廠商之一) | N/A | 預計2026年下降至8%左右 | N/A | N/A |
🛠️ 技術深入
- 華為昇騰系列 (Ascend):
- 採用「以系統打晶片」戰略,透過自研指令集、編譯器CANN及框架MindSpore,構建完整軟硬體生態。
- 昇騰950PR預計2026年第一季推出,主要面向推理Prefill階段和推薦業務場景,採用華為自研低成本HBM,並提升與Nvidia CUDA軟體系統的相容性。
- 昇騰950DT預計2026年第四季推出,注重推理Decode階段和訓練場景,搭載HiZQ 2.0 HBM,提供更高頻寬與容量。
- 昇騰950採用中芯國際N+2 (7nm) 製程,為確保良率,晶片面積約為910C的65%,限制在「半光罩」尺寸 (約400-429平方毫米)。
- 寒武紀思元系列 (Cambricon MLU):
- 思元370是寒武紀首款採用chiplet(芯粒)技術的AI晶片,基於7nm製程,集成了390億個晶體管,最大算力達256TOPS(INT8)。
- 採用最新智能晶片架構MLUarch03,並是國內首款公開發布支持LPDDR5記憶體的雲端AI晶片,記憶體頻寬是上一代產品的3倍。
- 搭載MLU-Link™多芯互聯技術,為多顆晶片提供高效協同能力,每顆晶片提供200GB/s的額外跨晶片直接通訊能力。
- 基礎軟體平台整合訓練和推理的底層軟體棧,包括驅動、運行時庫、算子庫和工具鏈,並新增推理加速引擎MagicMind,實現訓推一體。
- 東方算芯DF1000:
- 宣稱是「全球首顆軟體定義近存計算3D AI晶片」,在14nm製程下,單卡BF16精度算力達到520 TFLOPS,訪存頻寬高達6.4 TB/s。
- 採用「軟體定義晶片」技術,實現軟硬體解耦與動態重構,透過空間並行與時分復用提升資源利用率,使其在成熟製程下達到高算力。
- 是中國首顆採用DRAM-Logic晶圓級混合鍵合(Hybrid Bonding)3D垂直封裝的AI晶片,將計算層與儲存層緊密堆疊,互連間距壓縮至亞微米級,打破傳統AI晶片的「記憶體牆」與「頻寬牆」。
- 軟體優化與生態:
- 中國AI公司正透過「雕花」技術,從既有設備中榨取更多效能,以應對先進設備受限的問題。
- 華為CANN被稱為「晶片真正的核心」、「昇騰的靈魂」,沒有CANN,昇騰晶片只是一塊廢鐵。
- 國產晶片即便性能達到可用水準,也往往需要等模型發布後,再投入大量工程資源重新做遷移和適配,以解決與Nvidia CUDA生態的兼容性問題。
🔮 前景展望AI analysis grounded in cited sources
中國AI晶片在推理市場的自主化將加速,並可能在特定應用領域超越Nvidia。
隨著AI應用擴容和國產替代加速,推理算力需求爆發,中國廠商正專注於開發高能效比的推理專用ASIC晶片,並在軟體定義晶片和3D封裝等架構創新上取得突破,有望在邊緣端側等推理市場佔據主導地位。
Nvidia在中國高階AI晶片市場的份額將持續萎縮,並可能被迫進一步調整其全球戰略。
美國的出口管制政策已導致Nvidia在中國AI加速器市場的市佔率降至0%,且中國本土解決方案的市佔率預計將接近90%,這將迫使Nvidia重新評估其在中國市場的策略,並可能影響其全球營收和技術生態的影響力。
中國AI晶片產業將更加注重軟硬體協同和生態系統建設,以彌補與Nvidia CUDA生態的差距。
儘管硬體性能有所提升,但Nvidia CUDA生態的護城河依然存在,中國廠商如華為、寒武紀正透過自研軟體框架、編譯器和推理加速引擎,並與國內大模型合作,努力降低開發門檻和遷移成本,以建立自主可控的軟體生態。
⏳ 時間線
2022-10
美國商務部實施對中國先進運算晶片及半導體製造設備的出口管制,限制中國獲取高端晶片的能力。
2022-11
Nvidia為符合美國禁令,推出為中國市場定製的A800晶片,降低了A100的資料傳輸速率。
2023-10
美國升級AI晶片對華出口管制,擴大性能門檻和性能密度臨界點限制,並新增實體清單。
2025-01
DeepSeek大模型引爆AI算力需求,加速國產替代進程,寒武紀等國產晶片廠商股價飆升。
2025-04
美國政府將Nvidia H20晶片列入出口管制清單,進一步限制對中國市場的高效能AI晶片出口。
2026-03
華為發布搭載全新昇騰950PR處理器的AI訓練推理加速卡Atlas350,並傳出字節跳動和阿里巴巴計劃大量採購。
📎 來源 (30)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
- line.me
- cnyes.com
- sina.cn
- chinabaogao.com
- ithome.com
- wantgoo.com
- technews.tw
- hkepc.com
- line.me
- hk01.com
- hkepc.com
- ofweek.com
- cambricon.com
- cnyes.com
- technice.com.tw
- xfastest.com
- cw.com.tw
- udn.com
- ivendor.com.tw
- gvm.com.tw
- hkej.com
- storm.mg
- storm.mg
- ithome.com
- southcn.com
- tda.tw
- usembassy-china.org.cn
- indsr.org.tw
- cnfi.org.tw
- pocket.tw
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: SCMP Technology ↗
每週 AI 簡報
每週一封,可隨時退訂。