來源較早收集於 76m

AI 需求擠壓雲端容量,AWS 要求關閉閒置伺服器

閱讀原文: IT之家
#cloud-capacity#gpu-computing#server-utilization

AI 工作負載消耗更多雲端算力,AWS 正透過回收閒置 EC2 容量緩解供應壓力。

30 秒速覽

有什麼變化

AWS 將閒置 EC2 執行個體列為優先對象,以減少算力浪費。

為什麼重要

這項措施顯示,即使 AWS 已大幅增加電力容量,AI 訓練與推理仍正在收緊雲端基礎設施供應。回收閒置執行個體有助於提升資源可用性,但也可能促使企業重新檢視預留容量並改善工作負載排程。

下一步行動

本週在 EC2 帳戶中執行 AWS Compute Optimizer,經資源負責人確認後,終止或縮減被標記為低 CPU 與低網路使用率的執行個體。

誰應關注:Enterprise & Security Teams

關鍵要點

  • •AWS 將閒置 EC2 執行個體列為優先對象,以減少算力浪費。
  • •據報約 65% 的 EC2 執行個體在 30 天內平均 CPU 使用率低於 20%。
  • •Compute Optimizer 會分析 14 天的 CPU 與 IO 數據。
  • •峰值 CPU 使用率低於 15% 且網路流量極低的虛擬機會被標記。
  • •面對 AI 需求上升,AWS 過去一年新增了 3.8 吉瓦的電力容量。
關鍵數字65%20%

深度解析

本篇為 AI 生成分析,非原文內容。

增強重點摘要

  • •AWS 正在推動『FinOps』文化,鼓勵企業客戶透過自動化工具識別並終止『殭屍資源』,以應對 AI 基礎設施的高昂資本支出(CapEx)。
  • •除了 EC2,AWS 同時針對 EBS(Elastic Block Store)閒置卷進行清理建議,因為未掛載的儲存空間同樣佔用寶貴的資料中心電力與冷卻資源。
  • •此舉與 AWS 積極擴展的『永續發展目標』相符,旨在透過提升資源利用率(Utilization Rate)來降低每單位算力的碳足跡。
  • •AWS 內部已部署基於機器學習的預測模型,能根據歷史負載模式自動建議調整執行個體大小(Right-sizing),而非僅僅是關閉閒置資源。
  • •受 AI 訓練需求影響,AWS 正在將部分傳統通用型執行個體(General Purpose)的硬體資源,優先調配給支援 GPU 加速的 P 系列與 Trn 系列執行個體。

競品分析

核心機制
AWS Compute Optimizer
基於 14 天歷史數據分析
Google Cloud Recommender
基於機器學習的資源優化
Azure Advisor
基於使用模式的成本建議
自動化程度
AWS Compute Optimizer
高(提供自動調整建議)
Google Cloud Recommender
極高(支援自動執行調整)
Azure Advisor
中(側重於建議與警示)
AI 負載優化
AWS Compute Optimizer
優先針對 GPU/Trainium 資源
Google Cloud Recommender
針對 TPU 資源進行深度優化
Azure Advisor
針對 Azure OpenAI 服務優化

技術深入

  • AWS Compute Optimizer 利用 CloudWatch 指標數據,包括 CPUUtilization, NetworkIn, NetworkOut, DiskReadOps, DiskWriteOps 等進行多維度分析。
  • 系統採用加權平均演算法,對過去 14 天的負載進行回溯,並排除異常峰值(Outliers)以避免誤判。
  • 針對閒置判斷,系統會檢查執行個體是否在連續 14 天內,其 CPU 使用率低於 1% 且網路吞吐量低於 5MB/小時。
  • 整合 AWS Systems Manager (SSM) 可實現自動化終止或調整大小的腳本執行,減少人工介入。

前景展望基於引用來源的 AI 分析

雲端服務供應商將全面轉向『以利用率為核心』的計費模式。
隨著 AI 算力成本飆升,供應商將透過懲罰閒置資源或提供高利用率折扣,強制客戶優化架構。
企業 IT 預算將從『隨需擴展』轉向『精準算力規劃』。
AI 訓練任務的不可預測性與高昂成本,迫使企業必須建立更嚴格的資源生命週期管理機制。

時間線

2020-08
AWS 正式推出 Compute Optimizer,旨在協助客戶優化資源配置。
2023-06
AWS 宣布投資 1 億美元成立 AWS 生成式 AI 創新中心,加速 AI 算力需求。
2025-02
AWS 擴大其永續發展計畫,將資料中心電力使用效率(PUE)優化列為年度核心目標。
2026-01
AWS 報告顯示其全球資料中心電力容量已突破關鍵門檻,以應對 AI 爆發式增長。

事件追蹤

AI 週報

閱讀本週精選 AI 大事摘要 →

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: IT之家 ↗

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週電子報

每週一封,可隨時退訂。