🟩NVIDIA Developer Blog•最新收集於 30m
NVIDIA DSX MaxLPS 聚焦 AI 每瓦效能

#ai-factories#inference-efficiency#performance-per-watt#data-center-powernvidia-dsx-maxlpsnvidianvidia dsx maxlps
💡了解 AI 工廠為何必須衡量每 megawatt 的推論輸出,而不只是 GPU 效能。
⚡ 30-Second TL;DR
有什麼變化
AI 工廠應優化每個可用 megawatt 所產生的 AI 輸出,而不只是增加 GPU 數量。
為什麼重要
對 AI 基礎設施團隊而言,DSX MaxLPS 可能促使容量規劃從硬體密度轉向端到端工作負載效率。這有助於營運商找出未直接提升推論吞吐量或商業產出的電力開銷。
下一步行動
使用包含整體機房功耗的代表性推論工作負載進行基準測試,再將端到端每瓦效能與目前僅計算 GPU 的指標比較。
誰應關注:Enterprise & Security Teams
關鍵要點
- •AI 工廠應優化每個可用 megawatt 所產生的 AI 輸出,而不只是增加 GPU 數量。
- •應用層級的每瓦效能被定位為 AI 推論工作負載的關鍵效率指標。
- •整體效率必須納入 GPU 運算、配電及冷卻等額外功耗。
🧠 深度解析
背景與延伸:來自公開資料,非原文內容。引用 16 個來源。
🔑 增強重點摘要
- •DSX MaxLPS 透過動態管理 GPU、機櫃與工作負載層級的電力,能讓營運商在既有的電力預算內,額外部署高達 40% 的 GPU 數量。
- •該技術旨在縮小 AI 工廠的能源效率差距,解決傳統架構中僅有約 60% 電網電力實際用於 AI 運算的浪費問題。
- •MaxLPS 深度整合了 45°C 溫水液冷系統的優化控制,這是實現高密度機櫃部署與提升每瓦效能的關鍵硬體配套。
- •透過「電力導向(Power Steering)」技術,系統能即時在不同 GPU 與機櫃間調配電力,以適應多變的推論工作負載需求。
- •MaxLPS 特別針對「代理型 AI(Agentic AI)」進行優化,旨在提升 Vera Rubin 平台等高需求、多步驟推論任務的每瓦代幣產出效率。
🛠️ 技術深入
- 核心架構:作為 NVIDIA DSX 平台的電力與效率軟體層,透過數位孿生模擬(DSX Sim)進行預測性調度。
- 電力管理:支援即時電力導向技術,動態調整 GPU 運作頻率與電壓以維持最佳能效比。
- 熱管理整合:針對 45°C 溫水液冷環境進行演算法優化,降低冷卻系統的輔助功耗。
- 效能指標:以「每兆瓦代幣產出(Tokens per Megawatt)」作為衡量 AI 工廠運作效率的核心標準。
🔮 前景展望AI analysis grounded in cited sources
AI 工廠的競爭核心將從單純的 GPU 算力轉向電力使用效率(PUE)與每瓦代幣產出。
隨著電力供應成為資料中心擴張的主要瓶頸,能以最低電力成本產出最多推論結果的廠商將掌握市場定價權。
軟體定義電力管理將成為未來大規模 AI 資料中心的標配。
硬體密度提升已達物理極限,透過軟體動態調配電力資源是突破電力限制的唯一可行路徑。
⏳ 時間線
2026-05
NVIDIA 正式發布 DSX 平台,旨在提供 AI 工廠設計、模擬與營運的全端解決方案。
📎 來源 (16)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: NVIDIA Developer Blog ↗
每週 AI 簡報
每週一封,可隨時退訂。

