🔧Tom's Hardware•最新收集於 16h
HBF 可為 GPU 增加數 TB 記憶體
💡HBF 瞄準數 TB 額外 GPU 記憶體，可能改變大型模型服務的成本結構。
⚡ 30-Second TL;DR
有什麼變化
HBF 設計上透過 NAND 堆疊擴充 GPU 記憶體容量。
為什麼重要
若生態系統逐步成熟，HBF 可讓 AI 系統處理更大的模型與資料集，而不必完全依賴昂貴的 HBM。由於規格仍處於早期階段，且產業採用尚未普及，其實際影響仍不確定。
下一步行動
在以 NAND 支援的記憶體擴充方案設計 GPU 服務平台前，請先追蹤 HBF 規格修訂版本與原型支援情況。
誰應關注：Researchers & Academics
關鍵要點
- •HBF 設計上透過 NAND 堆疊擴充 GPU 記憶體容量。
- •該規格支援最高 16-Hi NAND 堆疊，並以最高 3 TB/s 頻寬為目標。
- •UCIe 是其連接方案的一部分，但目前僅有四家公司表達興趣。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •HBF（High Bandwidth Flash）架構旨在解決 AI 模型訓練與推論中，GPU 記憶體容量（VRAM）不足以容納大型參數模型的瓶頸問題。
- •該技術透過將 NAND 快閃記憶體直接整合至 GPU 的記憶體階層中，試圖填補傳統 DRAM 與儲存裝置之間的存取延遲鴻溝。
- •UCIe（Universal Chiplet Interconnect Express）介面的採用，確保了 HBF 能夠以標準化方式與不同廠商的 GPU 晶片進行高速互連。
- •SK hynix 與 SanDisk 的合作重點在於利用先進的封裝技術（如 16-Hi 堆疊），在有限的物理空間內實現極高的儲存密度。
- •HBF 的目標不僅是擴充容量，還透過優化存取協議，使 GPU 能夠以接近記憶體的速度直接讀取 NAND 中的權重資料。
📊 競品分析▸ Show
| 特性 | HBF (SK hynix/SanDisk) | CXL-based Memory Expansion | NVIDIA NVLink/NVSwitch |
|---|---|---|---|
| 主要用途 | GPU 擴充 NAND 容量 | 系統級記憶體池化 | GPU 間高速互連 |
| 頻寬 | 目標 3 TB/s | 取決於 PCIe/CXL 頻寬 | 極高 (數百 GB/s - TB/s) |
| 延遲 | 中等 (優於 SSD) | 較高 | 極低 |
| 價格 | 預計低於 HBM | 中等 | 高昂 |
🛠️ 技術深入
- 採用 16-Hi NAND 堆疊技術，大幅提升單位面積的儲存密度。
- 利用 UCIe 介面作為晶片間互連標準，實現低延遲的資料傳輸路徑。
- 針對 GPU 存取模式進行優化，支援高並發的資料讀取請求。
- 透過專用的控制器架構，將 NAND 的存取行為模擬為記憶體映射 I/O (MMIO) 或類似記憶體的存取方式。
- 旨在實現 3 TB/s 的峰值頻寬，以滿足大規模 AI 模型即時載入權重的需求。
🔮 前景展望AI analysis grounded in cited sources
HBF 將顯著降低大型語言模型（LLM）的硬體部署成本。
透過使用成本較低的 NAND 取代昂貴的 HBM 來擴充容量，可減少對多節點 GPU 叢集的依賴。
HBF 可能成為邊緣運算裝置處理複雜 AI 任務的關鍵技術。
在受限的空間與功耗下，HBF 提供了在單一 GPU 上運行超大型模型的可能性。
⏳ 時間線
2026-05
SK hynix 與 SanDisk 宣布針對 AI 應用開發新型記憶體架構
2026-07
HBF 規格正式對外發布並確認採用 UCIe 標準
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Tom's Hardware ↗