來源較早收集於 0m

Google AI 基礎設施用電量激增 37%,儘管能效有所提升

閱讀原文: IT之家
#sustainability#energy-efficiency#data-centers

了解 Google 如何透過基礎設施優化,在 AI 運算規模激增的同時達成永續發展目標。

30 秒速覽

有什麼變化

AI 基礎設施擴張導致 2025 年電力需求激增 37%。

為什麼重要

這凸顯了擴展 AI 規模所需的巨大能源成本,並為「業務成長與碳排放脫鉤」樹立了先例。這顯示未來的 AI 發展將深受能源供應與基礎設施效率的制約。

下一步行動

透過分析推論效率來評估模型的能源足跡,並探索模型量化技術,以降低每個 Token 的運算成本。

誰應關注:Developers & AI Engineers

關鍵要點

  • AI 基礎設施擴張導致 2025 年電力需求激增 37%。
  • 透過再生能源與效率優化,營運碳排放量反而下降 2%。
  • 提出「AI Stack」概念,旨在從硬體、模型與排程進行全方位能源優化。
  • 連續九年實現 100% 再生能源電力匹配目標。
關鍵數字37%2%

深度解析

本篇為 AI 生成分析,非原文內容。

增強重點摘要

  • Google 正在積極投資小型模組化反應爐(SMR)技術,以解決 AI 資料中心長期電力供應的穩定性與無碳能源需求。
  • 除了電力消耗,Google 的水資源消耗量亦因資料中心冷卻需求增加而顯著上升,成為環境永續報告中的另一項關鍵指標。
  • Google 透過自研的 TPU(Tensor Processing Unit)晶片架構,在執行大規模語言模型訓練時,相較於通用 GPU 展現了更高的每瓦效能比。
  • 公司已將 AI 整合至資料中心冷卻系統的自動化控制中,透過機器學習預測負載並動態調整冷卻參數,進一步降低 PUE(電源使用效率)值。
  • Google 正在推動「24/7 無碳能源」目標,旨在確保資料中心在每一小時內都能使用當地產生的無碳電力,而非僅依賴年度再生能源憑證匹配。

競品分析

核心硬體
Google (AI Stack)
TPU v5p / Axion
Microsoft (Azure AI)
Maia 100 / Cobalt 100
AWS (Trainium/Inferentia)
Trainium2 / Inferentia2
能源策略
Google (AI Stack)
24/7 無碳能源匹配
Microsoft (Azure AI)
碳負排放目標 (2030)
AWS (Trainium/Inferentia)
2025 年實現水資源正效益
軟體優化
Google (AI Stack)
JAX / XLA 編譯器
Microsoft (Azure AI)
ONNX Runtime / Olive
AWS (Trainium/Inferentia)
Neuron SDK

技術深入

  • AI Stack 架構:整合了硬體層(TPU、自研晶片)、模型層(模型蒸餾、稀疏化技術)與排程層(負載平衡與動態電壓頻率調整)。
  • 散熱技術:採用先進的液冷系統(Liquid Cooling)與冷卻液分配單元(CDU),以應對高密度 AI 伺服器機櫃的熱負荷。
  • 負載調度:利用 AI 預測模型將非即時性運算任務遷移至電力碳強度較低的時段或地區執行。

前景展望基於引用來源的 AI 分析

Google 將在 2027 年前大幅增加核能採購比例。
為了滿足 AI 基礎設施持續增長的電力需求並達成 24/7 無碳能源目標,再生能源的間歇性已不足以支撐基載電力。
AI 模型的能源效率將成為 Google Cloud 雲端定價的核心競爭力。
隨著碳稅與能源成本上升,能效更高的模型架構將直接降低營運成本,進而影響雲端服務的定價策略。

時間線

2017-05
Google 宣布實現全球營運 100% 再生能源電力匹配。
2020-09
Google 承諾到 2030 年實現全天候 24/7 無碳能源運作。
2023-12
Google 發表 TPU v5p,強調在 AI 訓練中的能源效率提升。
2024-07
Google 發布環境報告,承認 AI 發展導致碳排放量較 2019 年基線上升。
2025-05
Google 擴大 AI Stack 策略,將能源優化整合至模型訓練流程。

AI 週報

閱讀本週精選 AI 大事摘要 →

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: IT之家

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週電子報

每週一封,可隨時退訂。