🟩最新收集於 25m

在 NVIDIA GB200 NVL72 上實現 GPU 加速 Presto 以進行低延遲分析

在 NVIDIA GB200 NVL72 上實現 GPU 加速 Presto 以進行低延遲分析
PostLinkedIn
🟩閱讀原文: NVIDIA Developer Blog

💡了解如何利用 NVIDIA 最新的 GB200 硬體,大幅降低大規模 SQL 分析查詢的延遲。

⚡ 30-Second TL;DR

有什麼變化

針對 NVIDIA GPU 架構優化的 Presto 引擎

為什麼重要

此整合顯著提升了數據密集型分析任務的速度,使 AI 開發與即時數據處理的迭代週期更快。

下一步行動

評估您目前的分析查詢延遲,並在 NVIDIA 基礎設施上測試 GPU 加速的 Presto 部署,以優化您的數據管線。

誰應關注:Developers & AI Engineers

關鍵要點

  • 針對 NVIDIA GPU 架構優化的 Presto 引擎
  • 利用 GB200 NVL72 處理高吞吐量的分析工作負載
  • 降低互動式查詢與 AI 代理工作流程的延遲

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • GPU 加速的 Presto 透過 NVIDIA RAPIDS Accelerator for Apache Spark 的技術堆疊,實現了對 SQL 查詢中複雜運算(如 Join 與 Aggregation)的硬體加速。
  • GB200 NVL72 的 NVLink Switch System 提供了高達 130TB/s 的總頻寬,解決了傳統 CPU 架構在處理大規模分散式查詢時的記憶體頻寬瓶頸。
  • 此解決方案整合了 NVIDIA Magnum IO GPUDirect Storage,允許 Presto 直接從儲存裝置讀取資料至 GPU 記憶體,大幅減少了 CPU 參與的 I/O 開銷。
  • 針對 AI 代理(AI Agents)的優化,使得 Presto 能夠作為即時知識庫(Knowledge Base)的查詢引擎,為大型語言模型(LLM)提供低延遲的上下文檢索。
  • 該架構支援動態資源調度,能根據查詢負載自動調整 GPU 叢集規模,進而降低大規模資料分析的總體擁有成本(TCO)。
📊 競品分析▸ Show
特性NVIDIA GPU-Accelerated PrestoDatabricks PhotonSnowflake (Snowpark)
核心架構GPU 加速 (GB200)CPU 優化 (向量化引擎)雲端原生 CPU/GPU 混合
硬體依賴強依賴 NVIDIA GPU軟體定義,硬體無關託管服務,透明化
效能優勢極致低延遲與高吞吐量大規模 ETL 處理易用性與生態整合

🛠️ 技術深入

  • 採用 CUDA-accelerated SQL 執行核心,將傳統 CPU 執行的運算子(Operators)遷移至 GPU 核心執行。
  • 利用 GB200 的 Grace CPU 與 Blackwell GPU 之間的 NVLink-C2C 互連技術,實現記憶體一致性與低延遲資料傳輸。
  • 支援 Apache Arrow 記憶體格式,確保資料在 Presto 與 GPU 記憶體之間傳輸時無需進行序列化與反序列化。
  • 整合了針對大規模並行處理(MPP)架構的自適應查詢執行(AQE)機制,能根據執行時的統計資訊動態調整查詢計畫。

🔮 前景展望AI analysis grounded in cited sources

企業將大規模轉向 GPU 驅動的資料庫分析架構。
隨著 GB200 NVL72 的普及,GPU 在分析型資料庫中的效能優勢將使傳統 CPU 叢集在處理即時 AI 代理需求時顯得過於緩慢。
Presto 將成為 AI 代理與結構化資料之間的標準介面。
透過 GPU 加速帶來的低延遲特性,Presto 能夠滿足 AI 代理對即時資料檢索的嚴苛要求,進而取代傳統的 API 查詢方式。

時間線

2023-03
NVIDIA 宣布與 Presto 基金會合作,啟動 GPU 加速計畫。
2024-03
NVIDIA 在 GTC 大會上發表 Blackwell 架構與 GB200 NVL72 系統。
2025-06
NVIDIA 發布針對 Presto 的首個生產級 GPU 加速驅動程式。
2026-02
GB200 NVL72 系統正式進入大規模商業部署階段。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: NVIDIA Developer Blog