🖥️Computerworld•較早收集於 31m
Meta 攫取數千萬 Graviton5 核心
💡Meta 巨量 Graviton5 交易凸顯 CPU 在代理式 AI 角色—立即多元化基礎設施策略（48字）
⚡ 30-Second TL;DR
有什麼變化
Meta 部署「數千萬」Graviton5 核心（每晶片 192 核心）
為什麼重要
Meta 積極擴張運算資源，顯示 AI 基礎設施競爭激烈，強調 CPU 在代理系統中超越 GPU 的角色。此舉可降低對單一供應商依賴，並優化複雜 AI 工作負載成本。
下一步行動
針對代理式 AI 協調任務，基準測試 AWS Graviton5 實例與 GPU 的效能。
誰應關注：Developers & AI Engineers
關鍵要點
- •Meta 部署「數千萬」Graviton5 核心（每晶片 192 核心）
- •支援代理式 AI：即時推理、多步驟任務、數十億互動
- •延續與 Nvidia（Blackwell GPU）、AMD（6GW 運算）、Arm 及自家 MTIA v4 合作
- •多元化基礎設施：無單一架構適用所有工作負載
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Graviton5 採用台積電 2 奈米（N2）製程技術，顯著提升了每瓦效能，旨在解決大規模 AI 推理任務中的能耗瓶頸。
- •Meta 此次部署不僅限於雲端運算，還整合了 AWS 的 Nitro 系統，以實現更低延遲的網路傳輸，這對於即時代理式 AI 的互動體驗至關重要。
- •此項合作標誌著 Meta 從單純依賴 GPU 進行訓練，轉向更細緻的「訓練與推理分離」策略，將高成本的 GPU 資源集中於訓練，而將大規模推理任務轉移至高性價比的 Arm 架構處理器。
📊 競品分析▸ Show
| 特性 | AWS Graviton5 | Google Axion | Microsoft Maia 100 |
|---|---|---|---|
| 架構 | Arm Neoverse V3 | Arm Neoverse V2 | 自研 ASIC (針對 AI) |
| 製程 | 台積電 2nm | 台積電 3nm | 台積電 5nm |
| 主要用途 | 通用運算/推理 | 通用運算/推理 | 大模型訓練/推理 |
| 競爭優勢 | 生態系成熟度高 | 與 Google TPU 整合 | 與 Azure 深度綁定 |
🛠️ 技術深入
- 核心架構：基於 Arm Neoverse V3 核心，支援 SVE2 (Scalable Vector Extension) 指令集，大幅提升向量運算效率。
- 記憶體架構：支援 DDR5-6400 高頻記憶體，並透過 AWS Nitro 晶片實現硬體級的記憶體加密與虛擬化隔離。
- 互連技術：整合了 AWS 自研的 Scalable Reliable Datagram (SRD) 協定，優化了分散式推理任務中的網路封包傳輸效率。
- 功耗管理：採用動態電壓頻率調整 (DVFS) 技術，針對 Meta 的代理式 AI 工作負載進行了特定指令集的微架構優化。
🔮 前景展望AI analysis grounded in cited sources
Meta 將在 2027 年前將超過 40% 的推理工作負載從 GPU 遷移至 CPU。
隨著代理式 AI 任務複雜度增加，使用專用 CPU 處理邏輯推理比使用 GPU 更具成本效益。
AWS 將因 Meta 的大規模採用而進一步擴大其在 Arm 伺服器晶片市場的市佔率。
Meta 作為全球最大的雲端客戶之一，其採購規模將產生規模經濟效應，迫使其他雲端供應商加速 Arm 晶片的研發。
⏳ 時間線
2018-11
AWS 發布第一代 Graviton 處理器，正式進入自研晶片領域。
2022-05
Meta 宣布開發首款自研 AI 推理晶片 MTIA v1。
2023-11
AWS 發布 Graviton4，效能較前代提升 30%。
2025-06
Meta 擴大與 AWS 的基礎設施合作協議，為 Graviton5 的大規模部署奠定基礎。
2026-03
AWS 正式推出 Graviton5，並宣布 Meta 為首批大規模部署客戶。
📰 事件追蹤
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Computerworld ↗