🟩NVIDIA Developer Blog•最新收集於 23m
NVLink Fusion 連接客製化 AI 加速器
#custom-accelerators#ai-factories#interconnectnvidia-nvlink-fusionnvidianvlink fusionnvhbmxpu
💡了解 NVIDIA 如何瞄準客製化 AI 加速器的記憶體與互連瓶頸。
⚡ 30-Second TL;DR
有什麼變化
NVLink Fusion 專為客製化 AI 加速器（也稱為 XPU）而設計。
為什麼重要
NVLink Fusion 可能讓大型 AI 基礎架構營運商更容易建構與部署客製化加速器平台，同時維持記憶體頻寬。這或許能在單純依賴通用 GPU 之外，擴大 AI 工廠的擴展設計選項。
下一步行動
根據記憶體頻寬、封裝面積與橫向擴展限制，評估 NVLink Fusion 與 NVHBM 是否符合你的客製化加速器路線圖。
誰應關注：Enterprise & Security Teams
關鍵要點
- •NVLink Fusion 專為客製化 AI 加速器（也稱為 XPU）而設計。
- •該方案將 NVHBM 帶入下一代 AI 基礎架構。
- •它因應 AI 模型日益複雜所產生的高頻寬記憶體，以及充足封裝與矽面積需求。
- •目標使用者包括大規模部署加速器的超大規模雲端業者與 AI 原生企業。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 12 個來源。
🔑 增強重點摘要
- •NVLink Fusion 提供授權 IP 與實體小晶片（Chiplets）兩種整合模式，允許第三方將其無縫嵌入客製化矽晶片封裝中。
- •該平台支援大規模擴展，第六代 NVLink 可實現 72 個 XPU 全對全連接，單一 XPU 頻寬達 3.6 TB/s，並具備擴展至 1,152 個單元的技術路徑。
- •AWS 已確認採用 NVLink Fusion 技術於其下一代 Trainium 加速器，顯示該平台已成功打入超大規模雲端供應商的自研晶片生態系。
- •2026 年 6 月，Ayar Labs 加入生態系提供共同封裝光學（CPO）技術，進一步提升了機櫃級 AI 基礎架構的傳輸效率與距離。
- •該架構具備網路內運算（In-network compute）能力，提供 130 TFLOPs 的運算效能，並較傳統網路架構降低 3 倍延遲與提升 10 倍封包處理率。
📊 競品分析▸ Show
| 特色 | NVLink Fusion | 傳統 PCIe/CXL 互連方案 |
|---|---|---|
| 頻寬 | 極高 (3.6 TB/s/XPU) | 較低 (PCIe Gen6 約 256 GB/s) |
| 延遲 | 極低 (針對 AI 優化) | 較高 (通用型協定) |
| 生態系 | NVIDIA 封閉/半開放架構 | 開放標準 (CXL Consortium) |
| 適用場景 | 超大規模 AI 訓練/推論 | 通用伺服器與異質運算 |
🛠️ 技術深入
- 採用第六代 NVLink 技術，支援高達 3.6 TB/s 的單一 XPU 頻寬。
- 支援 die-to-die (C2C) 互連介面，便於與第三方 ASIC 或 CPU 進行晶片級整合。
- 整合 NVHBM 技術，解決高頻寬記憶體在客製化封裝中的面積與功耗限制。
- 具備網路內運算（In-network compute）功能，提供 130 TFLOPs 的處理效能。
- 支援共同封裝光學（CPO）整合，以應對機櫃級大規模互連的訊號衰減問題。
🔮 前景展望AI analysis grounded in cited sources
NVIDIA 將透過 NVLink Fusion 鞏固其在異質運算中心的基礎設施主導地位。
透過將自研晶片納入其互連生態系，NVIDIA 確保了即使客戶轉向自研加速器，仍需依賴其網路與架構標準。
AI 基礎架構將加速轉向以光學互連為核心的機櫃級設計。
Ayar Labs 的加入與 NVLink Fusion 對 CPO 的支援，顯示傳統銅線互連已無法滿足未來兆級參數模型的頻寬需求。
⏳ 時間線
2025-06
於 Computex 2025 正式發表 NVLink Fusion 平台。
2026-06
Ayar Labs 加入 NVLink Fusion 生態系，引入共同封裝光學（CPO）技術。
📎 來源 (12)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： NVIDIA Developer Blog ↗
每週 AI 簡報
每週一封，可隨時退訂。