⚡雷峰网•最新收集於 2h
商湯大裝置以 TPW 重新定義 AI 基礎設施效能
#ai-data-center#energy-efficiency#workload-scheduling#demand-responsetpw（tokens-per-watt）與算電協同agentsensetimetpw算電協同agentlingang aidc
💡了解 TPW 如何將每一瓦電力連結至有效 Token，並透過彈性工作負載釋放更多 AI 產能。
⚡ 30-Second TL;DR
有什麼變化
TPW 在 PUE 基礎上，衡量每單位電力產出的有效 Token，並納入分時電價成本。
為什麼重要
相較於單獨使用 PUE，TPW 有機會為 AI 基礎設施營運商提供更貼近業務的效率指標，將電力成本直接連結至有效模型產出。若能廣泛採用，工作負載彈性與儲能將可能成為資料中心及電網的可運營資產。
下一步行動
為推理與訓練工作加入功耗及 GPU 利用率遙測，先按工作負載計算 TPW，再測試批次任務的時段轉移調度。
誰應關注：Enterprise & Security Teams
關鍵要點
- •TPW 在 PUE 基礎上，衡量每單位電力產出的有效 Token，並納入分時電價成本。
- •八級可觀測體系將 Job、GPU 利用率、機櫃負載與樓棟用電，統一映射至同一時間軸。
- •算電協同Agent依據延遲容忍度分類工作負載，將訓練、評測與批次任務移至低電價或低負載時段。
- •商湯表示，透過容量規劃、儲能調度與需求響應協同，可在不增加供電容量下，將 IT 有效承載能力提升約 60%。
- •在上海 7 月需求響應活動中，臨港 AIDC 將午間負載削減 75%，提供 23 MW 可調負荷，並於兩小時內釋放 4.6 萬度電。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •商湯大裝置（SenseCore）的算電協同架構整合了液冷技術與智慧配電系統，能即時監控伺服器級別的功耗與熱效應，從而實現更精細的能源分配。
- •該系統採用了基於強化學習的調度演算法，能預測電網負載波動，並在毫秒級別內自動調整 GPU 叢集的運算頻率與電壓（DVFS），以平衡效能與功耗。
- •商湯臨港 AIDC 已與上海市電力需求響應平台完成 API 對接，成為首批參與虛擬電廠（VPP）運作的超大規模 AI 資料中心之一。
- •TPW 指標的推廣不僅限於內部優化，商湯正推動將此標準納入綠色資料中心評級體系，以應對中國日益嚴格的算力中心能耗雙控政策。
- •透過算電協同 Agent，商湯成功將訓練任務的斷點續傳機制與能源調度掛鉤，確保在執行削峰填谷策略時，不會因電力波動導致模型訓練進度損失。
📊 競品分析▸ Show
| 特性/廠商 | 商湯 (SenseCore TPW) | 阿里雲 (能源大腦) | 華為 (AI DC 能源解決方案) |
|---|---|---|---|
| 核心指標 | TPW (Tokens Per Watt) | PUE / 碳排放強度 | PUE / 能源利用率 |
| 算電協同 | 深度整合業務調度 | 側重雲端資源調度 | 側重基礎設施硬體整合 |
| 應用場景 | 大模型訓練/推理 | 公有雲/混合雲 | 通用資料中心/邊緣計算 |
🛠️ 技術深入
- 算電協同 Agent 架構：採用分層控制邏輯，底層為硬體監控層（監測 GPU/機櫃功耗），中層為決策層（基於負載預測與電價模型），頂層為業務編排層（任務優先級隊列）。
- 負載分類機制：將任務分為即時推理（高延遲敏感）、模型訓練（中等延遲敏感）、批次資料處理（低延遲敏感），並對應不同的電力成本閾值。
- 臨港 AIDC 基礎設施：配置高密度液冷伺服器機櫃，支援單機櫃功率密度達 40kW 以上，為算電協同提供了必要的硬體彈性空間。
- 數據映射體系：利用時序資料庫（TSDB）將電力數據與 GPU 算力數據進行毫秒級對齊，實現算力產出與電力消耗的精確歸因分析。
🔮 前景展望AI analysis grounded in cited sources
TPW 將成為衡量 AI 資料中心營運成本的核心標準。
隨著算力需求激增與電力成本上升，單純追求 PUE 已無法反映 AI 業務的真實經濟效益。
AI 資料中心將轉型為電網的『虛擬電廠』。
透過算電協同技術，資料中心能將閒置算力轉化為可調度的電力負載，參與電網平衡並獲取額外收益。
⏳ 時間線
2022-01
商湯臨港 AIDC 正式啟用，標誌著大裝置算力基礎設施的初步成型。
2023-07
商湯發布 SenseCore 3.0，強化算力調度與大模型訓練效能。
2024-05
商湯開始在臨港 AIDC 部署算電協同系統，探索能源與算力調度的整合。
2025-03
商湯正式提出 TPW 指標，並在內部大規模推廣算電協同 Agent。
2026-07
臨港 AIDC 在上海需求響應活動中實現 75% 負載削減，驗證了算電協同的商業價值。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 雷峰网 ↗