🕷️
SetupAI
EN
💼較早收集於 3m

Nvidia BlueField-4 STX 解決 AI 代理儲存瓶頸

Nvidia BlueField-4 STX 解決 AI 代理儲存瓶頸
PostLinkedIn
💼閱讀原文： VentureBeat
#storage#kv-cache#agentic-aibluefield-4-stxnvidiabluefield-4-stxdoca-memocmx

💡代理 5 倍速 KV 快取—修復長情境推理儲存瓶頸。（28字）

⚡ 30-Second TL;DR

有什麼變化

GPU 與儲存間插入 KV 快取情境記憶層

為什麼重要

解決多步驟 AI 代理吞吐量缺口，讓情境持久無 GPU 停滯。儲存供應商可建 AI 原生系統，提升 Nvidia 生態。

下一步行動

下載 DOCA Memo 參考軟體，在儲存堆疊原型 STX 情境快取。

誰應關注：Developers & AI Engineers

關鍵要點

  • •GPU 與儲存間插入 KV 快取情境記憶層
  • •5 倍 token 吞吐量、4 倍能效、2 倍資料攝取速度
  • •BlueField-4 處理器整合 Vera CPU 及 ConnectX-9 SuperNIC；包含 DOCA Memo 軟體

🧠 深度解析

背景與延伸：來自公開資料，非原文內容。引用 8 個來源。

🔑 增強重點摘要

  • •BlueField-4 搭載 126 億個電晶體，採用 64 核心 NVIDIA Grace CPU 架構，支援 PCIe Gen6 連接，為數據中心 DPU 市場帶來新一代運算能力[1]
  • •NVIDIA 推出 Inference Context Memory Storage (ICMS) 平台，專門針對 KV 快取管理，整合硬體加密引擎可在 800 Gb/s 速率下提供線速加密與 CRC 資料保護，無需額外主機 CPU 開銷[2]
  • •BlueField-4 STX 參考架構已獲得 AIC、Cloudian、DDN、Dell、HPE、Hitachi、IBM、Nutanix、Pure Storage、Supermicro、VAST Data 及 WEKA 等 12 家儲存廠商採用，預計 2026 年下半年推出商用產品[5]
  • •BlueField-4 透過 Spectrum-X 乙太網路提供 AI 最佳化 RDMA 架構，在 Rubin 運算節點與 ICMS 快閃儲存機櫃間實現可預測的低延遲、高頻寬連接，減少主機 CPU 依賴[2]

🛠️ 技術深入

BlueField-4 DPU 核心規格

  • 處理器核心：64 核心 NVIDIA Grace CPU（Arm Neoverse V2 架構）[1][2]
  • 電晶體數量：126 億個[1]
  • 網路連接：800 Gb/s 連接能力，搭配 NVIDIA ConnectX-9 SuperNIC[1][2]
  • 記憶體：高頻寬 LPDDR 記憶體支援[2]
  • PCIe 支援：PCIe Gen6 相容[1]
  • 硬體加速引擎：專用加密與完整性檢查加速器，支援線速 800 Gb/s 加密與 CRC 資料保護[2]
  • 儲存協議支援：NVMe、NVMe-oF、NVMe KV 擴展、RDMA 與物件儲存協議[2]
  • 架構設計：BlueField-4 負責 KV I/O 平面與控制平面加速，跨 Rubin 運算節點 DPU 與 ICMS 快閃機櫃控制器部署[2]

🔮 前景展望AI analysis grounded in cited sources

多代理 AI 系統將成為主流推動力
BlueField-4 STX 架構專為長上下文與多步驟推理設計，暗示 NVIDIA 預期代理式 AI 工作負載將成為數據中心儲存架構的決定性應用場景。
儲存層將成為 AI 基礎設施的關鍵瓶頸解決點
12 家主流儲存廠商快速採用 BlueField-4，表明業界認可 KV 快取管理已成為 AI 推理效能的核心限制因素，需要專用硬體加速。
DPU 市場將進一步整合網路與儲存功能
BlueField-4 整合 Grace CPU、ConnectX-9 SuperNIC 與專用加密引擎，顯示 DPU 正演進為多功能資料平面處理器，而非單純網路卡。

⏳ 時間線

2025-10
NVIDIA GTC DC 2025 年 10 月發表 BlueField-4 DPU，宣布 64 核心 Grace CPU 與 800G 網路規格
2026-01
CES 2026 年 1 月 5 日正式推出 NVIDIA Inference Context Memory Storage (ICMS) 平台，由 BlueField-4 驅動
2026-03
2026 年 3 月 16 日 NVIDIA 宣布 BlueField-4 STX 參考架構與 12 家儲存夥伴合作計畫
💼閱讀原文： VentureBeat
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

同主題

探索 #storage

同產品

更多關於 bluefield-4-stx

同來源

最新來自 VentureBeat

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： VentureBeat ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週 AI 簡報

每週一封，可隨時退訂。