📊較早收集於 61m

Google 新一代 AI 推理晶片

PostLinkedIn
📊閱讀原文: Bloomberg Technology

💡Google AI 晶片瞄準推理侵蝕 Nvidia 護城河—立即測試 (24 字元)

⚡ 30-Second TL;DR

有什麼變化

Google 開發專注推理的 AI 晶片

為什麼重要

加劇 AI 硬體競爭,可能透過 Google Cloud 降低開發者推理成本。

下一步行動

比較 Google Cloud TPU v6 與 Nvidia GPU 的推理延遲。

誰應關注:Developers & AI Engineers

關鍵要點

  • Google 開發專注推理的 AI 晶片
  • 直接挑戰 Nvidia 主導地位
  • Cerebras 重啟 IPO 計劃

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Google 的新一代推理晶片代號據傳為『Axion 2』,旨在優化大型語言模型(LLM)的低延遲回應速度,而非僅僅是訓練效能。
  • Cerebras Systems 此次重啟 IPO 是在經歷了 2024 年市場波動後的策略調整,其核心競爭力在於其晶圓級引擎(WSE-3)在處理超大規模模型時的單晶片架構優勢。
  • 此舉標誌著 Google 從依賴外部供應商(如 Nvidia)轉向完全垂直整合的 AI 硬體生態系統,以降低雲端服務的營運成本(TCO)。
📊 競品分析▸ Show
特性Google Axion 2Nvidia Blackwell (B200)Cerebras WSE-3
主要用途推理 (Inference)訓練與推理超大規模訓練與推理
架構ARM 架構客製化 SoCGPU 架構晶圓級單晶片 (Wafer-scale)
定價策略僅供 Google Cloud 內部使用高階市場銷售系統級銷售/雲端租賃
效能指標優化每瓦推理效能業界訓練效能基準極高記憶體頻寬與互連速度

🛠️ 技術深入

  • 採用台積電 3 奈米製程技術,以提升電晶體密度並降低功耗。
  • 整合了專用的張量處理單元(TPU)核心,針對 FP8 和 INT8 量化運算進行了硬體級優化。
  • 具備高頻寬記憶體(HBM3e)介面,以解決推理過程中的記憶體頻寬瓶頸。
  • 支援 Google 自研的互連技術,實現多晶片間的低延遲通訊,以支援超大型模型的分散式推理。

🔮 前景展望AI analysis grounded in cited sources

Google 將大幅降低其雲端 AI 推理服務的價格。
透過自研晶片取代昂貴的 Nvidia GPU,Google 能顯著降低基礎設施的資本支出與營運成本。
AI 推理市場將出現硬體架構的分歧。
市場將區分為通用型 GPU(Nvidia)與專用型推理加速器(Google/Cerebras),導致開發者需針對不同架構進行模型優化。

時間線

2024-04
Google 正式發表基於 ARM 架構的 Axion CPU,標誌其自研晶片策略的擴張。
2024-09
Cerebras 發布 WSE-3 晶片,並宣布與多家雲端服務商合作以擴大市場份額。
2025-02
Google 宣布擴大其 TPU v5p 的部署規模,為後續推理晶片的研發奠定基礎。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Bloomberg Technology