💰TechCrunch AI•較早收集於 22m
Google 推出更快 TPU 挑戰 Nvidia
💡更快、更便宜的 Google TPU 挑戰 Nvidia—立即重新評估雲端 AI 硬體。
⚡ 30-Second TL;DR
有什麼變化
Google Cloud 推出兩款新型 TPU
為什麼重要
這些 TPU 可降低 Google Cloud 上 AI 工作負載的成本，加劇與 Nvidia 的競爭，並為使用者帶來更好定價選擇。AI 從業人員可能轉向 Google 以實現成本效益的訓練與推論。
下一步行動
在 Google Cloud 主控台基準測試新型 TPU，用於您的 ML 訓練工作。
誰應關注：Developers & AI Engineers
關鍵要點
- •Google Cloud 推出兩款新型 TPU
- •新型 TPU 比前代更快、更便宜
- •Google 目標挑戰 Nvidia 的 AI 晶片
- •雲端服務目前仍整合 Nvidia GPU
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Google 此次推出的新型 TPU 採用了自研的第五代或更新架構，旨在優化大規模語言模型（LLM）的訓練與推理效率，特別是針對 Transformer 架構進行了硬體級加速。
- •儘管 Google 推動自研晶片，但其雲端策略採取「混合硬體」模式，透過 Google Kubernetes Engine (GKE) 讓客戶能靈活選擇 TPU 或 Nvidia GPU，以緩解供應鏈依賴風險。
- •新型 TPU 整合了 Google 自家的互連技術（如 ICI），在超大規模叢集（Pod）中展現出比傳統 GPU 叢集更低的延遲與更高的擴展性，直接針對 Nvidia 的 NVLink 生態系統進行競爭。
📊 競品分析▸ Show
| 特性 | Google TPU (最新版) | Nvidia Blackwell (B200) | AMD Instinct MI300X |
|---|---|---|---|
| 架構 | ASIC (專用積體電路) | GPU (通用圖形處理器) | GPU (通用圖形處理器) |
| 主要優勢 | 針對 Google 軟體堆疊優化，性價比高 | 生態系統完善 (CUDA)，通用性強 | 高記憶體頻寬，性價比競爭力強 |
| 軟體生態 | JAX, TensorFlow, PyTorch | CUDA (業界標準) | ROCm |
| 部署方式 | 僅限 Google Cloud | 多雲、地端伺服器 | 多雲、地端伺服器 |
🛠️ 技術深入
- 採用先進的封裝技術，提升記憶體頻寬（HBM）以應對超大參數模型的需求。
- 針對矩陣乘法運算單元（MXU）進行了架構升級，顯著提升了 FP8 與 BF16 的浮點運算效能。
- 內建專用的晶片間互連（ICI）技術，支援數千個 TPU 節點在高速互連下進行大規模並行運算。
- 針對 Google 自家的 Gemini 模型訓練流程進行了編譯器層級的深度優化。
🔮 前景展望AI analysis grounded in cited sources
Google 將逐步降低對 Nvidia 高階 GPU 的採購比例。
隨著自研 TPU 的效能與軟體支援度提升，Google 為了優化雲端成本結構，將優先將內部工作負載轉移至自研晶片。
AI 雲端市場將出現更嚴重的硬體生態碎片化。
由於 TPU 與 CUDA 生態的技術壁壘，開發者在選擇雲端平台時將面臨更嚴格的硬體綁定決策。
⏳ 時間線
2016-05
Google 在 I/O 大會上首次公開發布第一代 TPU。
2018-02
Google Cloud 正式向外部開發者提供 TPU 雲端服務。
2021-05
Google 發布 TPU v4，顯著提升了大規模模型訓練的效能。
2023-08
Google 宣布 TPU v5e，強調在推理與訓練間的性價比優化。
2023-12
Google 發布 TPU v5p，作為當時最強大的 AI 加速器，專為超大規模模型設計。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： TechCrunch AI ↗