🌍較早收集於 57m

Google 四夥伴晶片供應鏈挑戰 Nvidia AI 推論

Google 四夥伴晶片供應鏈挑戰 Nvidia AI 推論
PostLinkedIn
🌍閱讀原文: The Next Web (TNW)

💡Google 多供應商 TPU 策略可能打破 Nvidia 在 AI 推論的依賴

⚡ 30-Second TL;DR

有什麼變化

四家夥伴:Broadcom、MediaTek、Marvell、Intel

為什麼重要

多元化 Google 的晶片生產,降低供應短缺風險,並可能降低 AI 雲端用戶成本。強化 AI 推論市場對 Nvidia GPU 的競爭。

下一步行動

針對您的推論工作負載,基準測試 Google Cloud TPU 與 Nvidia A100/H100 的效能。

誰應關注:Enterprise & Security Teams

關鍵要點

  • 四家夥伴:Broadcom、MediaTek、Marvell、Intel
  • Ironwood TPU 目前大量出貨數百萬顆
  • TPU v8 預計 2027 年底採用 TSMC 2nm
  • 目標挑戰 Nvidia 在 AI 推論的主導地位

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Google 透過與 Broadcom、Marvell 等夥伴合作,採用「小晶片」(Chiplet)架構設計,旨在降低 TPU 生產成本並提高客製化彈性,以應對 AI 推論工作負載的多樣性。
  • Intel 參與 Google 客製晶片供應鏈,標誌著 Intel Foundry Services (IFS) 在爭取大型雲端服務供應商(CSP)代工訂單上的重大進展,直接挑戰台積電在先進製程的壟斷地位。
  • Google 的推論策略不僅限於硬體,還結合了其自研的 OpenXLA 編譯器技術,旨在優化 TPU v8 與現有 TensorFlow 及 JAX 框架的軟硬體協同效應,進一步縮短 AI 模型部署週期。
📊 競品分析▸ Show
特性/產品Google TPU v8 (預測)Nvidia Blackwell (B200)AWS Inferentia2
主要定位雲端推論優化通用 AI 訓練與推論雲端推論優化
製程技術TSMC 2nmTSMC 4NPTSMC 7nm
架構客製化 ASIC (Chiplet)GPU 架構 (Tensor Core)客製化 ASIC
生態系統JAX/TensorFlow/OpenXLACUDA/TensorRTNeuron SDK

🛠️ 技術深入

  • TPU v8 預計採用先進的 2nm 製程,並整合高頻寬記憶體(HBM4),以解決推論過程中常見的記憶體頻寬瓶頸。
  • 採用 Chiplet 模組化設計,允許 Google 根據不同的推論需求(如大型語言模型 vs. 輕量級模型)靈活組合運算單元。
  • 軟體層面深度整合 OpenXLA,實現對 Transformer 架構的硬體級加速,並支援 FP8 與 INT8 等低精度運算以提升推論吞吐量。

🔮 前景展望AI analysis grounded in cited sources

Google 將顯著降低其雲端 AI 推論服務的單位成本。
透過多元化供應鏈與客製化 ASIC 設計,Google 減少了對單一 GPU 供應商的依賴,並優化了能源效率與硬體利用率。
Nvidia 在雲端 AI 推論市場的市佔率將面臨結構性下滑。
隨著 Google 等大型雲端服務商全面轉向自研晶片,通用型 GPU 在特定推論任務中的性價比優勢將逐漸被客製化 ASIC 取代。

時間線

2023-05
Google 發表 TPU v5e,強調推論效能與成本效益。
2024-04
Google 正式推出基於 TPU v5p 的 AI 超級電腦,強化訓練與推論能力。
2025-02
Google 宣布擴大與 Broadcom 及 Marvell 的客製化晶片合作協議。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: The Next Web (TNW)