🔧最新收集於 36m

Nvidia 測試較低記憶體配置的 Rubin Ultra

Nvidia 測試較低記憶體配置的 Rubin Ultra
PostLinkedIn
🔧閱讀原文: Tom's Hardware

💡Rubin Ultra 記憶體可能大幅縮減,將改變大型 AI 工作負載的規劃與預算。

⚡ 30-Second TL;DR

有什麼變化

據報至少有三種 Rubin Ultra 記憶體配置正在測試中。

為什麼重要

記憶體容量降低可能限制 Rubin Ultra 系統可支援的模型大小、批次大小或平行工作負載。對 AI 基礎設施規劃者而言,這也可能影響伺服器密度、軟體分割方式與採購假設。

下一步行動

在容量規劃試算表中加入 192 GB HBM4 與 1 TB HBM4E 情境,並重新計算各配置可支援的最大模型大小與批次大小。

誰應關注:Researchers & Academics

關鍵要點

  • 據報至少有三種 Rubin Ultra 記憶體配置正在測試中。
  • 受測設計的記憶體容量可能低至 192 GB。
  • 這些配置相較原先公布的 1 TB,容量將大幅縮減。
  • 部分設計據報將從 HBM4E 改回 HBM4。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Rubin Ultra 架構預計將採用台積電的 CoWoS-L 封裝技術,以應對高頻寬記憶體(HBM)堆疊帶來的複雜散熱與互連挑戰。
  • 記憶體配置的調整不僅是為了供應鏈彈性,同時也是為了優化不同 AI 工作負載(如推論與訓練)的成本效益比。
  • 轉回使用 HBM4 可能暗示 Nvidia 正在尋求更成熟的供應鏈產能,以避免過度依賴尚未完全量產的 HBM4E 技術。
  • Rubin 平台預計將整合 Vera CPU,形成完整的運算單元,這與 Blackwell 平台的架構設計邏輯有顯著差異。
  • 此次測試的低記憶體版本可能針對邊緣運算或中型企業級資料中心市場,以降低入門門檻。
📊 競品分析▸ Show
特性Nvidia Rubin Ultra (測試版)AMD Instinct MI400 系列Intel Gaudi 4
記憶體容量192GB - 1TB (預估)預計 192GB+128GB - 256GB
記憶體類型HBM4 / HBM4EHBM4HBM3E
封裝技術CoWoS-L2.5D/3D ChipletEMIB

🛠️ 技術深入

  • Rubin Ultra 採用模組化設計,允許在單一封裝內靈活調整 HBM 堆疊數量。
  • 記憶體匯流排寬度預計將維持高位寬,以確保在降低容量時仍能維持足夠的頻寬。
  • 支援 PCIe 7.0 標準,以配合新一代伺服器平台的傳輸需求。
  • 採用更先進的電壓調節模組 (VRM) 設計,以應對高密度記憶體配置下的功耗波動。

🔮 前景展望AI analysis grounded in cited sources

Nvidia 將採取更靈活的產品分級策略
透過提供多種記憶體配置,Nvidia 能更精準地覆蓋從雲端訓練到邊緣推論的廣泛市場需求。
HBM4 供應鏈將成為 2026 年下半年的關鍵瓶頸
測試多種配置並考慮回退至 HBM4,顯示出高階記憶體產能仍無法完全滿足 Nvidia 的出貨目標。

時間線

2024-06
Nvidia 執行長黃仁勳於 Computex 首次揭露 Rubin 架構藍圖。
2025-03
市場傳出 Rubin 平台將整合 Vera CPU 的具體規格細節。
2026-02
Nvidia 開始針對 Rubin 系列進行早期工程樣品(ES)測試。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Tom's Hardware

Nvidia Tests Smaller Rubin Ultra Memory Configurations | Tom's Hardware | SetupAI | SetupAI