💰钛媒体•較早收集於 3h
阿里巴巴 PAI 優化算力利用率

💡學習如何解決大規模 AI 叢集中 50% 的算力利用率瓶頸。
⚡ 30-Second TL;DR
有什麼變化
阿里巴巴 PAI 解決 50% 算力利用率瓶頸
為什麼重要
提升算力利用率對於大規模 AI 運作至關重要,能在不增加硬體的情況下降低成本與環境影響。
下一步行動
審計您自身的 GPU 叢集利用率指標,並實施自動化排程以減少算力閒置時間。
誰應關注:Developers & AI Engineers
關鍵要點
- •阿里巴巴 PAI 解決 50% 算力利用率瓶頸
- •整合 ATH 以減少算力「內耗」
- •策略從硬體升級轉向營運效率優化
🧠 深度解析
Web-grounded analysis with 22 cited sources.
🔑 增強重點摘要
- •阿里巴巴於2026年3月成立了由CEO吳泳銘親自掛帥的Alibaba Token Hub (ATH) 事業群,其核心使命是為AI Agent時代「創造Token、輸送Token、應用Token」,並整合了通義千問等阿里內部AI核心資源,顯示其在AI戰略中的最高優先級。
- •PAI核心研發與商業化團隊於2026年6月正式劃轉ATH事業群,此舉旨在將算力調度權從銷售導向轉變為模型研發導向,以打破內部部門壁壘,解決算力資源碎片化和低效利用的問題,確保阿里巴巴自研大模型獲得優先算力支持。
- •儘管阿里巴巴在大模型訓練方面長期面臨算力緊缺,但集團整體算力利用率僅維持在50%左右,這凸顯了內部資源錯配和協調失靈的嚴重性,PAI併入ATH被視為一次迫不得已的「內部止損」或「自救」措施。
- •阿里巴巴的PAI平台提供「靈駿智算服務」,這是一個面向大規模深度學習及融合智算的PaaS產品,透過軟硬體一體化優化技術,提供高性能異構算力底座,具備高性能、高效率、高利用率等優勢,廣泛應用於大模型訓練、自動駕駛、科研等領域。
🛠️ 技術深入
- PAI平台基於阿里巴巴飛天分布式系統構建,利用計算(EGS、ECS、ECI)、網路(VPC)和儲存(OSS、NAS、CPFS)等技術,並支持雲原生K8s引擎(ACK、ASI)以及MaxCompute、實時計算等大數據引擎。
- PAI提供AI開發全鏈路服務,包括數據標註(iTAG)、交互式建模(DSW)、可視化建模(Designer)、分布式訓練(DLC)和模型線上服務(EAS)。
- PAI-DLC提供大規模分布式模型訓練環境,支持70B及以上參數的模型訓練,並提供通用計算資源和靈駿智算資源。
- PAI-EAS支持將訓練好的模型一鍵部署為線上推理服務或AI-Web應用,具備異構資源支持、自動擴縮容、灰度發布和實時監控等功能。
- PAI靈駿智算服務採用軟硬體一體化設計,底層硬體核心組件包括阿里巴巴自研的磐久伺服器和高性能RDMA網路(800Gbps高速低延遲傳輸,支持GPU直連)。
- 平台內置自研分布式訓練加速引擎,通過數據集加速、計算加速、優化算法、調度算法和資源優化技術等多種手段,提升AI訓練和推理的速度和效率。
- PAI還採用自研的分布式深度學習訓練框架EPL (Easy Parallel Library),可實現訓練速度11倍提升;彈性容錯引擎AI Master支持任務自動重啟和調度過濾;高性能Checkpoint框架EasyCKPT實現近「0開銷」的模型保存機制。
- 算力調度策略包括FIFO、遍歷、均衡和智能調度等模式,以優化配置、提升任務效率和算力利用率。
- 資源管理通過容器技術(Docker)進行資源劃分和調度,並兼容Kubernetes(K8s)等編排工具。
🔮 前景展望AI analysis grounded in cited sources
阿里巴巴將顯著提升其內部AI模型研發效率和迭代速度。
PAI團隊劃轉ATH事業群,將算力調度權從銷售導向轉向模型研發導向,直接服務於通義千問等大模型,有助於打破內部資源壁壘,確保核心AI項目獲得優先算力支持。
阿里巴巴的雲服務產品線將更清晰地劃分,阿里云智能將更專注於底層算力基礎設施的提供。
PAI核心研發與商業化團隊整體歸入ATH體系後,阿里云與ATH事業群的邊界將更加清晰,阿里云將聚焦於底層算力基建,而ATH則統籌全鏈路AI業務。
阿里巴巴將在AI Agent和Token經濟領域投入更多資源,加速相關產品和服務的商業化落地。
ATH事業群由CEO吳泳銘親自掛帥,核心使命是「創造Token、輸送Token、應用Token」,整合了通義千問、悟空事業部等核心AI資源,明確了其在AGI時代的戰略核心地位。
⏳ 時間線
2015-12
PAI作為天池大賽官方平台在阿里云正式上線,成為國內最早的雲端機器學習平台之一。
2017-03
阿里云宣布升級中國首個機器學習服務平台PAI,將AI算法應用於生命科學、智能製造。
2018
PAI平台正式商業化,積累數萬企業客戶及個人開發者。
2019-03
阿里巴巴高級總監林偉在TensorFlow Dev Summit上介紹PAI平台,強調其高性能、低成本、靈活性和可擴展性。
2026-03-16
阿里巴巴宣布成立Alibaba Token Hub (ATH) 事業群,由CEO吳泳銘直接負責,整合通義千問等AI核心資源。
2026-06-06
阿里云計算平台P10首席架構師林偉攜部分PAI團隊正式劃轉ATH事業群,PAI產品保留對外售賣形態,核心研發與商業化團隊整體歸入ATH體系。
📎 來源 (22)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: 钛媒体 ↗


