📊Bloomberg Technology•較早收集於 3m
Nvidia、Arm 讓 CPU 在 AI 時代重回中心

💡CPU 在 AI 中復興—重新思考純 GPU 策略應對工作負載 (28字元)
⚡ 30-Second TL;DR
有什麼變化
Nvidia 和 Arm 強調 CPU 在 AI 中的核心角色
為什麼重要
強化 AI 中均衡硬體堆疊需求,可能降低單獨依賴 GPU。加速 CPU 針對推論和混合工作負載的優化。
下一步行動
基準測試 Arm Neoverse CPU 用於具成本效益的 AI 推論部署。
誰應關注:Developers & AI Engineers
關鍵要點
- •Nvidia 和 Arm 強調 CPU 在 AI 中的核心角色
- •AI 進展中 CPU 仍舊至關重要
- •轉變凸顯運算主力持久價值
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Nvidia 透過 Grace CPU 超級晶片與 GPU 的緊密整合,利用 NVLink-C2C 技術實現高達 900GB/s 的頻寬,解決了傳統 PCIe 匯流排在 AI 大模型訓練中的瓶頸。
- •Arm 架構的低功耗特性與模組化設計(Neoverse 平台),使資料中心能以更佳的每瓦效能(Performance-per-watt)處理推論任務,這對於邊緣 AI 與雲端大規模部署至關重要。
- •此策略轉變反映了異質運算(Heterogeneous Computing)的趨勢,即 CPU 不再僅是負責控制任務,而是作為 AI 工作負載中預處理、資料清洗與複雜邏輯判斷的關鍵加速器。
📊 競品分析▸ Show
| 特性 | Nvidia Grace (Arm) | Intel Xeon (x86) | AMD EPYC (x86) |
|---|---|---|---|
| 架構 | Arm Neoverse | x86-64 | x86-64 |
| 互連技術 | NVLink-C2C | CXL / PCIe | CXL / PCIe |
| AI 優化 | 高度整合 GPU 加速 | 內建 AMX 加速器 | 內建 AVX-512 加速器 |
| 功耗效率 | 極高 (針對 AI 優化) | 中等 | 中等 |
🛠️ 技術深入
- Grace CPU 超級晶片架構:採用 144 個 Arm Neoverse V2 核心,支援 LPDDR5X 記憶體,提供高達 1TB/s 的記憶體頻寬。
- NVLink-C2C 互連:提供 CPU 與 GPU 之間極低延遲、高頻寬的數據傳輸,實現記憶體一致性(Memory Coherency),簡化程式開發模型。
- Neoverse V2 核心:針對向量運算與 AI 推論進行微架構優化,支援 SVE2 (Scalable Vector Extension) 指令集,提升矩陣運算效率。
🔮 前景展望AI analysis grounded in cited sources
x86 架構在高效能 AI 運算市場的市佔率將持續下滑。
Arm 架構憑藉其高度客製化與能效優勢,正逐步取代傳統 x86 處理器在 AI 專用伺服器中的地位。
資料中心將全面轉向異質運算架構。
單一通用處理器已無法滿足 AI 模型日益增長的運算需求,CPU 與 GPU 的深度耦合將成為標準設計。
⏳ 時間線
2020-09
Nvidia 宣布擬以 400 億美元收購 Arm(後於 2022 年因監管因素終止)。
2021-04
Nvidia 正式發表首款基於 Arm 架構的資料中心 CPU「Grace」。
2023-05
Nvidia 正式出貨 Grace Hopper 超級晶片,將 Grace CPU 與 H100 GPU 整合。
2024-03
Nvidia 發表 Blackwell 架構,進一步強化 Grace CPU 與 GPU 的協同運算能力。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Bloomberg Technology ↗