🏠最新收集於 76m

AI 需求擠壓雲端容量,AWS 要求關閉閒置伺服器

AI 需求擠壓雲端容量,AWS 要求關閉閒置伺服器
PostLinkedIn
🏠閱讀原文: IT之家

💡AI 工作負載消耗更多雲端算力,AWS 正透過回收閒置 EC2 容量緩解供應壓力。

⚡ 30-Second TL;DR

有什麼變化

AWS 將閒置 EC2 執行個體列為優先對象,以減少算力浪費。

為什麼重要

這項措施顯示,即使 AWS 已大幅增加電力容量,AI 訓練與推理仍正在收緊雲端基礎設施供應。回收閒置執行個體有助於提升資源可用性,但也可能促使企業重新檢視預留容量並改善工作負載排程。

下一步行動

本週在 EC2 帳戶中執行 AWS Compute Optimizer,經資源負責人確認後,終止或縮減被標記為低 CPU 與低網路使用率的執行個體。

誰應關注:Enterprise & Security Teams

關鍵要點

  • AWS 將閒置 EC2 執行個體列為優先對象,以減少算力浪費。
  • 據報約 65% 的 EC2 執行個體在 30 天內平均 CPU 使用率低於 20%。
  • Compute Optimizer 會分析 14 天的 CPU 與 IO 數據。
  • 峰值 CPU 使用率低於 15% 且網路流量極低的虛擬機會被標記。
  • 面對 AI 需求上升,AWS 過去一年新增了 3.8 吉瓦的電力容量。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • AWS 正在推動『FinOps』文化,鼓勵企業客戶透過自動化工具識別並終止『殭屍資源』,以應對 AI 基礎設施的高昂資本支出(CapEx)。
  • 除了 EC2,AWS 同時針對 EBS(Elastic Block Store)閒置卷進行清理建議,因為未掛載的儲存空間同樣佔用寶貴的資料中心電力與冷卻資源。
  • 此舉與 AWS 積極擴展的『永續發展目標』相符,旨在透過提升資源利用率(Utilization Rate)來降低每單位算力的碳足跡。
  • AWS 內部已部署基於機器學習的預測模型,能根據歷史負載模式自動建議調整執行個體大小(Right-sizing),而非僅僅是關閉閒置資源。
  • 受 AI 訓練需求影響,AWS 正在將部分傳統通用型執行個體(General Purpose)的硬體資源,優先調配給支援 GPU 加速的 P 系列與 Trn 系列執行個體。
📊 競品分析▸ Show
功能/比較AWS Compute OptimizerGoogle Cloud RecommenderAzure Advisor
核心機制基於 14 天歷史數據分析基於機器學習的資源優化基於使用模式的成本建議
自動化程度高(提供自動調整建議)極高(支援自動執行調整)中(側重於建議與警示)
AI 負載優化優先針對 GPU/Trainium 資源針對 TPU 資源進行深度優化針對 Azure OpenAI 服務優化

🛠️ 技術深入

  • AWS Compute Optimizer 利用 CloudWatch 指標數據,包括 CPUUtilization, NetworkIn, NetworkOut, DiskReadOps, DiskWriteOps 等進行多維度分析。
  • 系統採用加權平均演算法,對過去 14 天的負載進行回溯,並排除異常峰值(Outliers)以避免誤判。
  • 針對閒置判斷,系統會檢查執行個體是否在連續 14 天內,其 CPU 使用率低於 1% 且網路吞吐量低於 5MB/小時。
  • 整合 AWS Systems Manager (SSM) 可實現自動化終止或調整大小的腳本執行,減少人工介入。

🔮 前景展望AI analysis grounded in cited sources

雲端服務供應商將全面轉向『以利用率為核心』的計費模式。
隨著 AI 算力成本飆升,供應商將透過懲罰閒置資源或提供高利用率折扣,強制客戶優化架構。
企業 IT 預算將從『隨需擴展』轉向『精準算力規劃』。
AI 訓練任務的不可預測性與高昂成本,迫使企業必須建立更嚴格的資源生命週期管理機制。

時間線

2020-08
AWS 正式推出 Compute Optimizer,旨在協助客戶優化資源配置。
2023-06
AWS 宣布投資 1 億美元成立 AWS 生成式 AI 創新中心,加速 AI 算力需求。
2025-02
AWS 擴大其永續發展計畫,將資料中心電力使用效率(PUE)優化列為年度核心目標。
2026-01
AWS 報告顯示其全球資料中心電力容量已突破關鍵門檻,以應對 AI 爆發式增長。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: IT之家