Jensen Huang Calls Tech Selloff a Buying Opportunity

📊 競品分析▸ Show

供應商/產品	主要特點	性能/基準 (相對於Nvidia H100)	軟體生態系統
Nvidia (Hopper/Blackwell GPU)	AI訓練和推理的市場領導者，高記憶體頻寬。	H100：AI訓練和HPC主力。Blackwell (B200/GB200)：AI推理速度快2.5倍 (FP4)，HBM3e記憶體高達288GB。	CUDA：成熟且廣泛採用的平行運算平台，強大的開發者社群和工具。
AMD (Instinct MI300系列)	挑戰者，提供CPU和GPU產品，注重性價比。	MI300X：約Nvidia H100性能的75-80%，成本節省60%。	ROCm：開源軟體平台，但生態系統成熟度不如CUDA。
Intel (Gaudi系列)	CPU市場領導者，積極追趕AI加速器市場。	Gaudi 3：訓練模型速度快1.5倍，輸出結果速度快1.5倍，功耗低於Nvidia H100。	oneAPI：統一的程式設計模型，支援多種架構。
Google (TPU)	雲端服務供應商的自訂ASIC，專為內部AI工作負載優化。	TPU v5e：雲端成本比Nvidia GPU實例低65%。	TensorFlow/JAX：與Google的AI框架深度整合。
AWS (Trainium/Inferentia)	雲端服務供應商的自訂ASIC，專為雲端AI基礎設施設計。	Trainium/Inferentia：針對特定AI工作負載優化，提供良好的性價比。	與AWS SageMaker深度整合。

Nvidia Hopper (H100/H200) 架構：
- 於2022年推出，採用台積電4N製程，H100包含800億個電晶體。
- H200版本配備高達141GB的HBM3e記憶體，頻寬達4.8 TB/s。
- 引入第一代Transformer Engine，專為加速大型語言模型訓練而設計。
- 具備第四代Tensor Cores和NVLink 4.0互連技術，提供900 GB/s的頻寬。
Nvidia Blackwell (B100/B200/GB200) 架構：
- 於2024年3月GTC大會上正式發布，預計於2024年末/2025年初開始供貨。
- 採用台積電4NP製程，B100/B200採用雙晶片設計，包含2080億個電晶體。
- B200配備高達192GB的HBM3e記憶體，GB300 Ultra版本更高達288GB。
- AI推理性能在FP4精度下比Hopper快2.5倍，並原生支援FP4精度。
- 具備第二代Transformer Engine，支援MXFP4和MXFP6精度。
- NVLink互連頻寬提升至1,800 GB/s (比Hopper快2倍)，並配備專用解壓縮引擎。
- B200的功耗高達1200W，但針對AI工作負載的每瓦性能優於Hopper。
CUDA (Compute Unified Device Architecture) 平台：
- Nvidia於2007年推出的專有平行運算平台和應用程式介面 (API)。
- 允許軟體開發者利用Nvidia GPU進行通用目的運算 (GPGPU)。
- 提供對GPU虛擬指令集和記憶體的直接存取，支援C、C++、Fortran、Python等多種高階程式語言。
- 透過其廣泛的工具、函式庫、應用程式和合作夥伴生態系統，在高效能運算 (HPC)、人工智慧和深度學習領域發揮關鍵作用。

Nvidia將透過其Blackwell及未來架構，在AI訓練和推理市場保持其主導地位。

Blackwell架構在AI推理方面提供顯著的速度提升（FP4精度下快2.5倍），並透過NVLink實現更高的記憶體容量和頻寬，鞏固其在大型AI模型運算中的領先地位。

AI基礎設施的資本支出將持續增長，並從專案型支出轉變為持續性營運需求。

隨著生成式AI的加速部署以及企業對AI推理的持續需求，對AI優化伺服器、網路和儲存的投資將成為市場最大區塊。

Nvidia將透過擴展至邊緣運算和實體AI領域，開闢新的巨大市場機會。

執行長黃仁勳在Computex 2026上強調機器人、自動駕駛系統和智慧工廠等實體AI市場的潛力，預計到2030年將達到5,000億美元，這將成為Nvidia資料中心業務之後的下一個增長點。

2004

Nvidia開始開發CUDA。

2007-02

Nvidia正式發布CUDA平台，使其GPU可用於通用計算。

2017

Nvidia推出Volta架構，引入Tensor Cores，這是首款專為AI設計的GPU。

2020

Nvidia推出Ampere架構（A100），成為AI熱潮的主力，並擴展了AI吞吐量和可擴展性。

2022

Nvidia推出Hopper架構（H100），引入Transformer Engine，專為加速基於Transformer的模型而設計。

2024-03

Nvidia在GTC 2024上正式發布Blackwell架構，專為生成式AI設計，預計於2024年末/2025年初開始供貨。

Jensen Huang 稱科技股拋售潮為買入良機