🟩NVIDIA Developer Blog•最新收集於 31m
BlueField-4 瞄準代理式 AI 工廠
#scale-in#data-processingnvidia-bluefield-4nvidiabluefield-4dpu
💡代理式 AI 工廠不只需要 GPU；BlueField-4 將關鍵基礎設施工作移至 DPU。
⚡ 30-Second TL;DR
有什麼變化
BlueField-4 瞄準代理式 AI 工廠的橫向整合基礎設施。
為什麼重要
將基礎設施服務卸載至主機 CPU 之外，有助於 AI 工廠保留更多運算資源給編排與模型工作負載。這也顯示未來 AI 伺服器可能需要高度整合的資料處理與安全平面。
下一步行動
將代理平台的網路、儲存與安全服務對應至可由 BlueField-4 卸載的項目，並估算可節省的主機 CPU 資源。
誰應關注：Enterprise & Security Teams
關鍵要點
- •BlueField-4 瞄準代理式 AI 工廠的橫向整合基礎設施。
- •文章將專用 DPU 處理定位為支援每台伺服器多 terabit 頻寬的必要條件。
- •該平台涵蓋多元使用者、代理、應用程式與資料來源的網路、儲存及安全需求。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 10 個來源。
🔑 增強重點摘要
- •BlueField-4 引入了「Scale-In」網路架構，作為 NVIDIA AI 基礎設施的第五大支柱，專門處理南北向流量的卸載與安全管理。
- •該 DPU 具備 800 Gb/s 的吞吐量，其運算效能較前代產品提升了六倍，以應對代理式 AI 頻繁的工具呼叫與模型存取需求。
- •BlueField-4 支援全新的「上下文記憶體儲存 (CMX)」平台，將 Key-Value (KV) 快取視為 AI 原生資料類型，有效擴展 GPU 記憶體並提升推論效率。
- •Vera BlueField-4 STX 變體整合了 NVIDIA Vera CPU，在壓縮與加密管線處理上，比傳統 x86 架構提升了 3.21 倍的吞吐量。
- •透過與 Palo Alto Networks 等廠商合作，BlueField-4 實現了主機獨立的安全性，可在不消耗主機 CPU 資源的情況下執行租戶隔離與即時威脅偵測。
📊 競品分析▸ Show
| 特性 | NVIDIA BlueField-4 | 傳統 SmartNIC/DPU 解決方案 | 備註 |
|---|---|---|---|
| 吞吐量 | 800 Gb/s | 通常 100-400 Gb/s | BlueField-4 具備顯著頻寬優勢 |
| 處理架構 | 專用 DPU + Vera CPU | 通用 CPU 或 FPGA | BlueField-4 針對 AI 負載優化 |
| 安全性 | 主機獨立安全域 | 依賴主機 OS/CPU | BlueField-4 提供硬體隔離 |
| AI 整合 | 原生支援 CMX 與 KV 快取 | 無 | 競爭對手缺乏 AI 原生儲存層 |
🛠️ 技術深入
- 採用 800 Gb/s 高速網路介面，專為多 terabit 伺服器環境設計。
- 整合 NVIDIA Vera CPU 核心，專門加速壓縮與加密演算法。
- 支援 DOCA 軟體框架，提供可程式化的基礎設施服務部署環境。
- 實作硬體級的基礎設施處理域，將網路、儲存與安全任務與主機 CPU 完全隔離。
- 針對代理式 AI 的多步驟推理流程進行優化，減少模型呼叫與記憶體查找的延遲。
🔮 前景展望AI analysis grounded in cited sources
AI 工廠將全面轉向以 DPU 為中心的架構。
隨著代理式 AI 對即時上下文管理的需求增加，將基礎設施任務卸載至 DPU 將成為維持 GPU 推論效率的必要條件。
KV 快取將成為資料中心儲存層級的新標準。
BlueField-4 透過 CMX 平台將 KV 快取轉化為 AI 原生資料類型，將推動儲存架構從傳統區塊/檔案儲存向記憶體導向的 AI 儲存轉型。
⏳ 時間線
2026-08
NVIDIA 正式發表 BlueField-4 DPU 與 Scale-In 網路架構
📎 來源 (10)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： NVIDIA Developer Blog ↗
每週 AI 簡報
每週一封，可隨時退訂。