🔧Tom's Hardware•最新收集於 37m
Nvidia 發表更高速、更省電的 NVHBM
#ai-accelerators#memory-bandwidth#chip-design#power-efficiencynvhbmnvidianvhbmnvlink fusionhbm4e
💡了解 Nvidia 客製化記憶體如何改變 AI 加速器的頻寬與功耗取捨。
⚡ 30-Second TL;DR
有什麼變化
NVHBM 是 Nvidia 推出的客製化高頻寬記憶體方案。
為什麼重要
對 AI 加速器設計者而言，NVHBM 可能提升受記憶體頻寬限制的工作負載效能，同時降低功耗預算。透過 NVLink Fusion 提供給合作夥伴，也可能讓晶片開發商取得更緊密整合的記憶體與互連方案，但實際效益仍取決於實作方式與工作負載。
下一步行動
若你正規劃客製化 AI 加速器，請檢視 NVLink Fusion 合作夥伴要求，並評估 NVHBM 宣稱的頻寬與功耗收益是否值得投入該平台。
誰應關注：Developers & AI Engineers
關鍵要點
- •NVHBM 是 Nvidia 推出的客製化高頻寬記憶體方案。
- •相較於標準 HBM4e，其宣稱可提供高 30% 的頻寬。
- •相較於標準 HBM4e，其宣稱可降低 15% 的功耗。
- •客製化 base die 與 PHY 將提供給 NVLink Fusion 合作夥伴。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 14 個來源。
🔑 增強重點摘要
- •NVHBM 將記憶體控制器從運算晶片（XPU）移至 HBM 堆疊的基底晶片（Base Die）中，藉此優化架構。
- •此技術能為運算晶片釋放出高達 25% 的可用晶片面積，提升整體運算密度。
- •透過客製化的 PHY 設計，NVHBM 將 I/O 佔用面積縮減了 67%，顯著簡化了中介層（Interposer）的佈線難度。
- •亞馬遜旗下的 Annapurna Labs 是首位合作夥伴，計畫將此技術導入未來的 Trainium AI 加速器。
- •NVIDIA 正將 NVHBM 推動為一種標準化實作方案，旨在降低合作夥伴開發客製化 AI 晶片的工程複雜度與上市時間。
📊 競品分析▸ Show
| 特性 | NVHBM | 標準 JEDEC HBM4e |
|---|---|---|
| 頻寬表現 | +30% | 基準值 |
| 功耗效率 | -15% | 基準值 |
| I/O 佔用面積 | 縮減 67% | 基準值 |
| 記憶體控制器位置 | HBM Base Die | 運算晶片 (XPU) |
🛠️ 技術深入
- 採用 3D 堆疊技術，將記憶體控制器整合於 HBM 基底晶片中。
- 透過優化 PHY 介面設計，大幅減少運算晶片上的 I/O 佈線需求。
- 透過降低功耗，為運算單元提供額外的散熱空間（Thermal Headroom）。
- 支援 NVLink Fusion 生態系統，允許合作夥伴直接調用標準化的記憶體模組。
🔮 前景展望AI analysis grounded in cited sources
客製化 AI 晶片開發門檻將顯著降低
NVIDIA 將 NVHBM 標準化並開放給合作夥伴，將減少晶片設計者在記憶體介面與控制器設計上的重複研發成本。
雲端服務供應商（CSP）將更傾向於自研 AI 加速器
隨著 NVLink Fusion 與 NVHBM 的整合，AWS 等廠商能以更低的技術門檻打造與 NVIDIA 生態系高度相容的專用晶片。
⏳ 時間線
2026-08
NVIDIA 正式發表 NVHBM 並宣布與 Amazon Annapurna Labs 達成首項合作
📎 來源 (14)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Tom's Hardware ↗
每週 AI 簡報
每週一封，可隨時退訂。