🦙較早收集於 24m

NVIDIA Rubin 擁有 336B 電晶體、288GB HBM4

NVIDIA Rubin 擁有 336B 電晶體、288GB HBM4
PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA

💡NVIDIA Rubin:288GB HBM4、22TB/s—AI 基礎設施推論躍升 10 倍(22字)

⚡ 30-Second TL;DR

有什麼變化

3360 億電晶體

為什麼重要

Rubin 定位 NVIDIA 主宰次世代 AI 推論,可能大幅降低大規模部署成本。對規劃硬體升級的從業人員至關重要。

下一步行動

經 NVIDIA 路線圖評估 Rubin 規格用於推論叢集規劃。

誰應關注:Enterprise & Security Teams

關鍵要點

  • 3360 億電晶體
  • 288 GB HBM4 記憶體
  • 22 TB/s 頻寬
  • 宣稱推論成本改善 10 倍

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 6 個來源。

🔑 增強重點摘要

  • Rubin採用TSMC 3nm製程,晶片為雙reticle-sized die設計,相較Blackwell的TSMC 4NP進步一代[1][2][3]
  • FP4推論性能達50 PFLOPS,是Blackwell的2.5至5倍;FP4訓練性能35 PFLOPS,為Blackwell的3.5倍[1][2][3]
  • NVLink 6提供每GPU 3.6 TB/s雙向頻寬,NVL72機架總頻寬達260 TB/s,支持576 GPU記憶體一致性[1][3][6]
  • 具第三代Transformer Engine及硬體加速自適應壓縮,支援機架規模機密運算保護專有模型[6]
  • Rubin CPX變體使用128GB GDDR7記憶體及單片die設計,專為大上下文推論優化,提供30 PFLOPS NVFP4運算[5]
📊 競品分析▸ Show
規格NVIDIA RubinNVIDIA Blackwell
製程節點TSMC 3nmTSMC 4NP
FP4推論50 PFLOPS20 PFLOPS (或~10 PFLOPS)
FP4訓練35 PFLOPS~10 PFLOPS
HBM容量288GB HBM4192GB HBM3e
記憶體頻寬22 TB/s8 TB/s
NVLink頻寬3.6 TB/s per GPU1.8 TB/s per GPU
TDP (估計)~2,300W1,200W

🛠️ 技術深入

  • 雙die設計,每die為reticle-sized,使用TSMC N3P 3nm製程,總電晶體3360億[1][2][3]
  • 第三代Transformer Engine,內建硬體加速自適應壓縮及NVFP4精度運算[6]
  • 記憶體子系統支援零拷貝張量共享,硬體管理跨最多576 GPU的一致性領域[1]
  • NVLink 6:每GPU 3.6 TB/s雙向頻寬,具內建網路運算加速集體操作[1][3][6]
  • NVL72機架:72 GPU + 36 CPU,總FP4運算3.6 exaflops,20.7 TB HBM4,260 TB/s頻寬[3]
  • Rubin CPX:單片die,128GB GDDR7,30 PFLOPS NVFP4,3倍更快注意力機制[5]

🔮 前景展望AI analysis grounded in cited sources

Rubin將於2026年進入全面生產,但產能上限20-30萬顆
NVIDIA已簽長期產能協議,但生產瓶頸預計限制2026年出貨量[1]
資料中心需重大升級以因應~2300W TDP
每GPU功耗近Blackwell兩倍,儘管效率提升但絕對功率需求構成部署限制[3]
Rubin Ultra預計2027年推出,HBM4E達384GB及32 TB/s
NVIDIA公告Rubin Ultra規格包括更高記憶體容量與頻寬,機架功率600 kW[1][4]

時間線

2024-03
NVIDIA於GTC 2024宣布Rubin為Blackwell後繼者
2025-03
Rubin研發進展曝光,確認TSMC 3nm及HBM4規格
2026-01
CES 2026 keynote正式發布Rubin平台及NVL72系統
2026-03
Rubin進入全面生產,公布詳細規格及效能數據
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。