🔧最新收集於 41m

據報 Google 與 AMD 籌劃混合式 AI TPU

據報 Google 與 AMD 籌劃混合式 AI TPU
PostLinkedIn
🔧閱讀原文: Tom's Hardware

💡傳聞中的 Google–AMD TPU 可能重新定義代理式 AI 與強化學習硬體。

⚡ 30-Second TL;DR

有什麼變化

傳聞中的合作將結合 Google 的 TPU 專長與 AMD 的晶片設計能力。

為什麼重要

若獲得證實,這種架構可能降低 AI 代理在神經網路推論與傳統控制邏輯間頻繁切換時的協調開銷。此舉也將加劇客製化 AI 晶片與資料中心加速器設計的競爭。

下一步行動

分別測量強化學習與代理式工作負載的主機 CPU 時間和加速器時間,以便評估未來 CPU 與 TPU 整合可能帶來的優勢。

誰應關注:Researchers & Academics

關鍵要點

  • 傳聞中的合作將結合 Google 的 TPU 專長與 AMD 的晶片設計能力。
  • 據稱中的 ASIC 可能把 CPU 核心與 AI 加速器整合在同一封裝中。
  • 代理式 AI 與強化學習被視為可能的目標工作負載。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • 此合作案被視為 Google 試圖降低對 NVIDIA GPU 依賴的長期策略之一,旨在透過客製化晶片提升資料中心運作效率。
  • AMD 在此合作中可能提供其先進的 Chiplet(小晶片)封裝技術與 Infinity Fabric 互連架構,以解決 TPU 與 CPU 之間的資料傳輸延遲問題。
  • 該混合式架構預計將採用台積電(TSMC)的先進製程節點,並結合 CoWoS 封裝技術,以應對高頻寬記憶體(HBM)的整合需求。
  • 業界分析指出,Google 過去長期依賴自研 TPU,此次引入 AMD 的 CPU IP 核心,顯示其在處理複雜邏輯推理任務時,單純的 ASIC 架構已面臨瓶頸。
  • 此舉可能改變雲端 AI 基礎設施的競爭格局,促使其他雲端服務供應商(CSP)加速尋求與晶片設計公司進行類似的深度客製化合作。
📊 競品分析▸ Show
特性Google/AMD 混合 TPUNVIDIA Blackwell (GB200)AWS Trainium/Inferentia
架構CPU+TPU 混合封裝GPU+Grace CPU 整合專用 ASIC 加速器
優勢強化學習與代理 AI 延遲極低生態系完整、軟體支援強雲端成本效益高
目標市場內部 AI 模型訓練與推理通用高效能運算與大型模型AWS 雲端客戶推理需求

🛠️ 技術深入

  • 預計採用異質整合(Heterogeneous Integration)技術,將 CPU 運算單元與 TPU 矩陣乘法單元置於同一封裝內。
  • 透過高速互連匯流排(如 Infinity Fabric 或類似架構)實現 CPU 與 TPU 之間的記憶體一致性(Memory Coherency)。
  • 針對強化學習(Reinforcement Learning)優化,減少從 CPU 決策到 TPU 推理之間的上下文切換開銷。
  • 支援最新的 HBM4 或更高規格記憶體,以滿足大規模參數模型的頻寬需求。

🔮 前景展望AI analysis grounded in cited sources

Google 將在 2027 年前大幅降低對 NVIDIA 高階 GPU 的採購比例。
透過自研混合式晶片,Google 能在特定 AI 工作負載上實現更高的效能功耗比,從而減少對通用 GPU 的依賴。
AMD 將透過此合作確立其在客製化 ASIC 市場的領先地位。
與 Google 的深度合作將驗證 AMD 的 IP 授權與晶片設計服務能力,吸引更多大型科技公司尋求類似的客製化解決方案。

時間線

2016-05
Google 正式發表第一代 TPU,專為機器學習工作負載設計。
2023-04
Google 發表 TPU v4,並揭露其在超級電腦中的大規模部署細節。
2024-05
Google 發表 TPU v5p,強調其在大型語言模型訓練上的擴展能力。
2025-11
市場傳出 Google 內部開始評估將 AMD CPU 核心整合至下一代 TPU 架構的可行性。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Tom's Hardware