NVIDIA Rubin：最大吞吐量僅 2 倍效能提升

🔑 增強重點摘要

• •Rubin GPU採用TSMC 3nm製程，電晶體數達3360億顆，為Blackwell的1.6倍。
• •NVLink 6提供每GPU 3.6 TB/s雙向頻寬，比NVLink 5提升50%，支援576 GPU記憶體一致性域。
• •Rubin NVL72機架整合72 GPU與36 Vera CPU，提供3.6 EFLOPS FP4運算與260 TB/s頻寬。
• •Rubin Ultra預覽版HBM容量達384GB HBM4E，頻寬32 TB/s，機架功耗600 kW。
• •Rubin CPX專為推論設計，使用單片式設計與128GB GDDR7記憶體，提供30 PFLOPS NVFP4運算。

🛠️ 技術深入

• •Rubin為雙晶片設計，每顆GPU包含兩個TSMC N3製程的reticle-size晶片，總電晶體3360億。
• •記憶體子系統升級至288GB HBM4，提供22 TB/s頻寬，支援超過1兆參數模型單GPU推論。
• •第三代Transformer Engine內建硬體加速自適應壓縮，FP4推論50 PFLOPS，訓練35 PFLOPS。
• •NVLink 6具備網路內運算加速集體操作，支援MoE模型微秒級專家路由。
• •記憶體一致性改進實現零拷貝張量共享，跨最多576 GPU叢集無需顯式記憶體傳輸。
• •Vera CPU配備88個自訂Olympus核心，Armv9.2相容，具NVLink-C2C高速連接。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線