🗾ITmedia AI+ (日本)•較早收集於 83m
為何 SoftBank 在 AI 超級電腦中選擇 NVIDIA

💡了解打造 1220 億日圓 AI 超級電腦背後的真實工程權衡。
⚡ 30-Second TL;DR
有什麼變化
SoftBank 投資 1220 億日圓於 AI 基礎設施
為什麼重要
鞏固了 NVIDIA 在高效能運算市場的統治地位。它提供了大型 AI 基礎設施在成本與效能之間權衡的洞察。
下一步行動
在為大規模 AI 叢集選擇硬體時,評估長期維護與生態系統支援成本。
誰應關注:Developers & AI Engineers
關鍵要點
- •SoftBank 投資 1220 億日圓於 AI 基礎設施
- •因卓越的生態系統與可靠性而選擇 NVIDIA GPU
- •開發者回應了初期硬體穩定性的疑慮
🧠 深度解析
本篇為 AI 生成分析,非原文內容。
🔑 增強重點摘要
- •SoftBank 的這項計畫是其『AI 基礎設施戰略』的核心,旨在建立日本國內最強大的生成式 AI 運算平台,以減少對海外雲端服務的依賴。
- •該超級電腦採用了 NVIDIA 最新的 Blackwell 架構 GPU,並結合了 NVIDIA GB200 NVL72 系統,以實現大規模模型訓練所需的極高互連頻寬。
- •SoftBank 與 NVIDIA 建立了戰略合作夥伴關係,不僅是硬體採購,還包括在 AI 軟體堆疊與資料中心能源效率優化方面的深度技術協作。
- •為了應對 AI 運算帶來的巨大電力需求,SoftBank 正在探索將該超級電腦與其再生能源業務整合,並利用液冷技術提升散熱效率。
- •此計畫是 SoftBank 為了支持其自主研發的大型語言模型(LLM)所進行的關鍵投資,目標是提升日本在 AI 主權(AI Sovereignty)方面的競爭力。
📊 競品分析▸ Show
| 特性 | SoftBank (NVIDIA 方案) | 競爭對手 (如:AWS/Google Cloud) | 備註 |
|---|---|---|---|
| 基礎設施類型 | 自建專用超級電腦 | 公有雲租賃 (IaaS) | SoftBank 擁有完全控制權 |
| 硬體架構 | NVIDIA GB200 NVL72 | 多樣化 (自研晶片+NVIDIA) | SoftBank 專注於單一高效能架構 |
| 部署模式 | 本地部署 (On-premise) | 分散式雲端 | 延遲與數據隱私考量不同 |
🛠️ 技術深入
- 採用 NVIDIA GB200 NVL72 平台,將 72 個 Blackwell GPU 與 36 個 Grace CPU 透過第五代 NVLink 互連。
- 系統設計強調機架級(Rack-scale)運算,單一機架可視為單一 GPU,大幅降低大規模模型訓練的通訊瓶頸。
- 導入 NVIDIA AI Enterprise 軟體套件,優化模型訓練與推論的部署流程。
- 針對大規模 AI 叢集,採用了先進的液冷散熱解決方案,以應對單機架高達 120kW 的功耗需求。
🔮 前景展望AI analysis grounded in cited sources
SoftBank 將成為日本最大的 AI 算力供應商
透過大規模部署 NVIDIA 最新架構,SoftBank 能夠為日本企業提供低延遲的在地化 AI 訓練服務,取代部分公有雲需求。
能源效率將成為 SoftBank AI 業務的關鍵護城河
隨著算力規模擴大,SoftBank 整合再生能源與液冷技術的能力,將直接決定其 AI 服務的營運成本與市場定價優勢。
⏳ 時間線
2023-11
SoftBank 宣布與 NVIDIA 合作,共同開發基於 Grace Hopper 的生成式 AI 平台。
2024-05
SoftBank 宣布將投資 1220 億日圓擴建 AI 數據中心,並引入 NVIDIA Blackwell 架構。
2025-02
SoftBank 開始在日本國內部署首批大規模 AI 超級電腦硬體設施。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: ITmedia AI+ (日本) ↗
每週 AI 簡報
每週一封,可隨時退訂。