🌍較早收集於 66m

Google 洽談 Marvell 客製 AI 推論晶片

Google 洽談 Marvell 客製 AI 推論晶片
PostLinkedIn
🌍閱讀原文: The Next Web (TNW)

💡Google 擴大 AI 晶片供應,超越 Broadcom—關注更廉價推論選項(24字)

⚡ 30-Second TL;DR

有什麼變化

洽談記憶體處理單元 (MPU)

為什麼重要

Google 晶片多元化降低對供應商依賴,或穩定雲端 AI 硬體成本與供應。

下一步行動

檢視 Marvell AI 加速器規格,評估 Google 推論合作潛力

誰應關注:Developers & AI Engineers

關鍵要點

  • 洽談記憶體處理單元 (MPU)
  • 開發推論優化 TPU
  • 第三供應商,繼 Broadcom 及 MediaTek
  • Broadcom 合約後啟動洽談

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Google 採取「去博通化」策略,旨在透過引入 Marvell 作為第三家客製化晶片合作夥伴,降低對單一供應商的依賴並增強議價能力。
  • 此次合作重點在於推論(Inference)領域,反映出 Google 為了應對大規模生成式 AI 模型部署成本,正積極優化推論階段的能源效率與延遲表現。
  • Marvell 在高速互連技術(如 PAM4 DSP、矽光子)與客製化 ASIC 設計方面的深厚積累,是 Google 選擇其作為 TPU 合作夥伴的關鍵技術考量。
📊 競品分析▸ Show
特性Google TPU (Marvell/Broadcom)NVIDIA BlackwellAWS Inferentia
定位雲端原生客製化推論通用型 AI 加速器雲端原生推論
架構ASIC (客製化)GPU (通用架構)ASIC (客製化)
優勢針對 Google 軟體堆疊優化生態系完整、軟體支援強成本效益高、與 AWS 整合
定價內部成本/雲端服務費高昂 (硬體銷售)雲端服務費

🛠️ 技術深入

  • 記憶體處理單元 (MPU):旨在解決 AI 推論中的「記憶體牆」問題,透過在記憶體內部進行運算,大幅減少資料在處理器與記憶體間的傳輸能耗。
  • 推論優化 TPU:預計採用更先進的製程節點(如 2nm 或 3nm),並針對 Transformer 架構的矩陣運算進行硬體級加速,以提升每瓦效能 (Performance-per-watt)。
  • 互連技術:預計整合 Marvell 的高速 SerDes 技術,以支援 Google 資料中心內部的超大規模叢集互連需求。

🔮 前景展望AI analysis grounded in cited sources

Google 將顯著降低對 Broadcom 的 ASIC 採購依賴。
透過引入 Marvell 作為第二家 ASIC 供應商,Google 獲得了供應鏈彈性,並能透過競標機制壓低晶片單價。
AI 推論成本將在未來 18 個月內出現結構性下降。
專用推論晶片(如 MPU 和優化 TPU)的部署,將使 Google 能夠以更低的能源成本運行大規模語言模型。

時間線

2023-05
Google 發表 TPU v5e,強調推論效能與成本效益。
2024-04
Google 發表 Axion,首款基於 ARM 架構的客製化資料中心 CPU。
2025-02
市場傳出 Google 與 Broadcom 續簽下一代 AI 晶片開發合約。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: The Next Web (TNW)