Jensen Huang 與韓國科技巨頭會面，市場波動中尋求合作

NVIDIA Hopper 架構 (H100/H200 GPU)

• 採用台積電4N製程，包含超過800億個電晶體。
• 引入第四代Tensor Cores，支援FP8、FP16、BF16、TF32、INT8等多種精度，顯著加速AI計算。
• 搭載Transformer Engine，專為加速AI模型訓練而設計，可動態調整精度以提高效率。
• 支援HBM3和HBM2e記憶體，H100最高可達80GB HBM3，頻寬達3TB/s。
• 具備第二代MIG (Multi-Instance GPU) 技術，支援多租戶、多用戶配置，並透過硬體級機密計算提供安全隔離。
• 引入Tensor Memory Accelerator (TMA) 和非同步事務屏障，改進非同步執行，實現資料移動、計算和同步的重疊。

NVIDIA Blackwell 架構 (B100/B200/GB200 GPU)

• 作為Hopper的繼任者，專為生成式AI時代設計，於2024年發布。
• 採用革命性的雙晶片設計 (dual-die design)，將兩個大型晶片透過10 TB/s的晶片間互連整合為單一GPU封裝，包含2080億個電晶體，採用台積電4NP製程。
• 引入第五代Tensor Cores，支援FP4 (4位元浮點) AI，透過微張量縮放技術優化性能和準確性，將下一代模型可支援的性能和大小加倍。
• 搭載第二代Transformer Engine，針對注意力層加速提升2倍，AI計算FLOPS提升1.5倍。
• 支援HBM3e記憶體，並規劃未來架構如Rubin將採用HBM4。
• GB200 NVL72系統將36個GB200 Grace Blackwell Superchips與36個Grace CPU和72個Blackwell GPU連接，形成機架級設計，為萬億參數大型語言模型提供30倍的即時推論速度。
• 引入AI管理處理器 (AMP)，一個基於RISC-V的專用調度晶片，旨在更大程度上將調度從CPU卸載到GPU。