為何中國 AI 仍依賴 Nvidia

💡中國 LLM 龍頭仍依賴 Nvidia，因為替換整套軟體堆疊的成本與難度極高。

⚡ 30-Second TL;DR

有什麼變化

對中國主要 AI 開發商而言，Nvidia 晶片仍是訓練 LLM 的標準硬體。

為什麼重要

持續依賴 Nvidia 讓基於 CUDA 的工具與成熟 GPU 工作流程，在中國 AI 生態系中仍具長期重要性。國產晶片即使在技術上持續進步，仍面臨軟體相容性與遷移成本的重大差距。

下一步行動

使用 PyTorch Profiler 評估 CUDA 訓練流程，找出移植至國產加速器時需要重寫的核心程式與相依元件。

誰應關注：Researchers & Academics

AI-generated analysis for this event.

•美國商務部持續收緊對華出口管制，特別是針對高階 AI 加速器（如 H100/H200 及後續型號）的禁令，迫使中國企業轉向性能較弱的『特供版』晶片（如 H20），進一步拉大與國際頂尖算力的差距。
•CUDA 生態系統的軟體鎖定效應（Vendor Lock-in）是中國晶片難以取代 Nvidia 的核心原因，開發者若要遷移至華為昇騰（Ascend）等國產平台，需投入大量人力重寫底層算子與優化框架。
•中國雲端服務供應商（CSP）如阿里雲、騰訊雲與百度，正透過開發自有的互連技術與異構運算平台，試圖在硬體受限的情況下，透過軟體層面的叢集優化來提升國產晶片的訓練效率。
•美國政府近期針對 AI 晶片出口的審查範圍已擴大至雲端運算服務，限制中國企業透過海外資料中心租用 Nvidia 高階算力，這使得中國 AI 產業的算力獲取管道進一步萎縮。
•中國晶片製造商在先進封裝技術（如 CoWoS）的產能瓶頸，導致國產 AI 晶片在良率與大規模叢集擴展性上，仍難以達到 Nvidia Blackwell 等架構的穩定性與效能密度。

📊 競品分析▸ Show

特性/產品	Nvidia (H20/H100)	華為昇騰 (Ascend 910B)	寒武紀 (Cambricon MLU)
軟體生態	CUDA (極度成熟)	CANN (發展中)	專有框架 (有限)
互連技術	NVLink (高頻寬)	昇騰集群互連 (自研)	基礎 PCIe/自研互連
訓練效能	業界基準 (100%)	約 60-80% (視模型而定)	視具體算子優化而定
供應狀態	受出口管制限制	自主供應	自主供應

軟體遷移障礙：Nvidia 的 CUDA 擁有數十萬個優化過的算子庫，而國產晶片需依賴轉譯層（如將 CUDA 代碼轉換為 CANN 算子），此過程常導致 20%-40% 的效能損耗。
叢集互連瓶頸：大規模 LLM 訓練需要極高的節點間通訊頻寬，Nvidia 的 NVLink/NVSwitch 架構在延遲與頻寬上仍領先中國國產的 RDMA 解決方案。
記憶體架構：Nvidia 採用 HBM3/HBM3e 提供極高記憶體頻寬，中國國產晶片受限於 HBM 供應鏈，多數仍採用 DDR5 或較低規格的記憶體，限制了模型訓練的吞吐量。