xAI 推出全球最大 AI 訓練叢集

🔑 增強重點摘要

• •xAI的Colossus超級電腦最初於2024年在田納西州孟菲斯啟用，僅用122天建成，配備超過20萬個GPU，並計劃擴展至100萬個GPU。[1]
• •Colossus擁有194 PB/s總記憶體頻寬、每伺服器3.6 TB/s網路頻寬，以及超過1 EB儲存容量，使用液冷NVIDIA H100 GPU並透過單一RDMA織構連接。[1]
• •xAI與Solaris Energy Infrastructure合作租用約400MW天然氣渦輪機供電，其中240MW用於孟菲斯Colossus 1，其餘由合資企業擁有以加速部署。[4]
• •Colossus 2項目於2025年3月啟動，6個月內從零達到200MW冷卻容量，並安裝Tesla Megapacks與中壓電網連接南漢佛發電廠。[4]
• •數據中心位於南孟菲斯貧困黑人社區Boxtown及Whitehaven地區，引發當地居民對空氣污染、水資源消耗及公共健康的強烈反對。[5]

🛠️ 技術深入

• •Colossus超級電腦使用100,000個液冷NVIDIA H100 GPU，透過單一RDMA fabric連接，提供前所未有的計算能力。[1]
• •總記憶體頻寬達194 PB/s，每伺服器網路頻寬3.6 TB/s，儲存容量超過1 EB。[1]
• •Colossus 2配備119個空冷冷卻器，提供約200MW冷卻容量，足以支援110,000個GB200 NVL72 GPU，並整合Tesla Megapacks儲能與中壓電網。[4]
• •使用租用天然氣渦輪機（如Solaris的35MW單位），南漢佛廠已有7座運作，總計支援1.1GW電力需求。[4]

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線