🗾較早收集於 83m

為何 SoftBank 在 AI 超級電腦中選擇 NVIDIA

為何 SoftBank 在 AI 超級電腦中選擇 NVIDIA
PostLinkedIn
🗾閱讀原文: ITmedia AI+ (日本)
#gpu#supercomputer#hardwarenvidia-gpusoftbanknvidiacuda

💡了解打造 1220 億日圓 AI 超級電腦背後的真實工程權衡。

⚡ 30-Second TL;DR

有什麼變化

SoftBank 投資 1220 億日圓於 AI 基礎設施

為什麼重要

鞏固了 NVIDIA 在高效能運算市場的統治地位。它提供了大型 AI 基礎設施在成本與效能之間權衡的洞察。

下一步行動

在為大規模 AI 叢集選擇硬體時,評估長期維護與生態系統支援成本。

誰應關注:Developers & AI Engineers

關鍵要點

  • SoftBank 投資 1220 億日圓於 AI 基礎設施
  • 因卓越的生態系統與可靠性而選擇 NVIDIA GPU
  • 開發者回應了初期硬體穩定性的疑慮

🧠 深度解析

本篇為 AI 生成分析,非原文內容。

🔑 增強重點摘要

  • SoftBank 的這項計畫是其『AI 基礎設施戰略』的核心,旨在建立日本國內最強大的生成式 AI 運算平台,以減少對海外雲端服務的依賴。
  • 該超級電腦採用了 NVIDIA 最新的 Blackwell 架構 GPU,並結合了 NVIDIA GB200 NVL72 系統,以實現大規模模型訓練所需的極高互連頻寬。
  • SoftBank 與 NVIDIA 建立了戰略合作夥伴關係,不僅是硬體採購,還包括在 AI 軟體堆疊與資料中心能源效率優化方面的深度技術協作。
  • 為了應對 AI 運算帶來的巨大電力需求,SoftBank 正在探索將該超級電腦與其再生能源業務整合,並利用液冷技術提升散熱效率。
  • 此計畫是 SoftBank 為了支持其自主研發的大型語言模型(LLM)所進行的關鍵投資,目標是提升日本在 AI 主權(AI Sovereignty)方面的競爭力。
📊 競品分析▸ Show
特性SoftBank (NVIDIA 方案)競爭對手 (如:AWS/Google Cloud)備註
基礎設施類型自建專用超級電腦公有雲租賃 (IaaS)SoftBank 擁有完全控制權
硬體架構NVIDIA GB200 NVL72多樣化 (自研晶片+NVIDIA)SoftBank 專注於單一高效能架構
部署模式本地部署 (On-premise)分散式雲端延遲與數據隱私考量不同

🛠️ 技術深入

  • 採用 NVIDIA GB200 NVL72 平台,將 72 個 Blackwell GPU 與 36 個 Grace CPU 透過第五代 NVLink 互連。
  • 系統設計強調機架級(Rack-scale)運算,單一機架可視為單一 GPU,大幅降低大規模模型訓練的通訊瓶頸。
  • 導入 NVIDIA AI Enterprise 軟體套件,優化模型訓練與推論的部署流程。
  • 針對大規模 AI 叢集,採用了先進的液冷散熱解決方案,以應對單機架高達 120kW 的功耗需求。

🔮 前景展望AI analysis grounded in cited sources

SoftBank 將成為日本最大的 AI 算力供應商
透過大規模部署 NVIDIA 最新架構,SoftBank 能夠為日本企業提供低延遲的在地化 AI 訓練服務,取代部分公有雲需求。
能源效率將成為 SoftBank AI 業務的關鍵護城河
隨著算力規模擴大,SoftBank 整合再生能源與液冷技術的能力,將直接決定其 AI 服務的營運成本與市場定價優勢。

時間線

2023-11
SoftBank 宣布與 NVIDIA 合作,共同開發基於 Grace Hopper 的生成式 AI 平台。
2024-05
SoftBank 宣布將投資 1220 億日圓擴建 AI 數據中心,並引入 NVIDIA Blackwell 架構。
2025-02
SoftBank 開始在日本國內部署首批大規模 AI 超級電腦硬體設施。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: ITmedia AI+ (日本)

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。