📊較早收集於 3m

Nvidia、Arm 讓 CPU 在 AI 時代重回中心

Nvidia、Arm 讓 CPU 在 AI 時代重回中心
PostLinkedIn
📊閱讀原文: Bloomberg Technology

💡CPU 在 AI 中復興—重新思考純 GPU 策略應對工作負載 (28字元)

⚡ 30-Second TL;DR

有什麼變化

Nvidia 和 Arm 強調 CPU 在 AI 中的核心角色

為什麼重要

強化 AI 中均衡硬體堆疊需求,可能降低單獨依賴 GPU。加速 CPU 針對推論和混合工作負載的優化。

下一步行動

基準測試 Arm Neoverse CPU 用於具成本效益的 AI 推論部署。

誰應關注:Developers & AI Engineers

關鍵要點

  • Nvidia 和 Arm 強調 CPU 在 AI 中的核心角色
  • AI 進展中 CPU 仍舊至關重要
  • 轉變凸顯運算主力持久價值

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Nvidia 透過 Grace CPU 超級晶片與 GPU 的緊密整合,利用 NVLink-C2C 技術實現高達 900GB/s 的頻寬,解決了傳統 PCIe 匯流排在 AI 大模型訓練中的瓶頸。
  • Arm 架構的低功耗特性與模組化設計(Neoverse 平台),使資料中心能以更佳的每瓦效能(Performance-per-watt)處理推論任務,這對於邊緣 AI 與雲端大規模部署至關重要。
  • 此策略轉變反映了異質運算(Heterogeneous Computing)的趨勢,即 CPU 不再僅是負責控制任務,而是作為 AI 工作負載中預處理、資料清洗與複雜邏輯判斷的關鍵加速器。
📊 競品分析▸ Show
特性Nvidia Grace (Arm)Intel Xeon (x86)AMD EPYC (x86)
架構Arm Neoversex86-64x86-64
互連技術NVLink-C2CCXL / PCIeCXL / PCIe
AI 優化高度整合 GPU 加速內建 AMX 加速器內建 AVX-512 加速器
功耗效率極高 (針對 AI 優化)中等中等

🛠️ 技術深入

  • Grace CPU 超級晶片架構:採用 144 個 Arm Neoverse V2 核心,支援 LPDDR5X 記憶體,提供高達 1TB/s 的記憶體頻寬。
  • NVLink-C2C 互連:提供 CPU 與 GPU 之間極低延遲、高頻寬的數據傳輸,實現記憶體一致性(Memory Coherency),簡化程式開發模型。
  • Neoverse V2 核心:針對向量運算與 AI 推論進行微架構優化,支援 SVE2 (Scalable Vector Extension) 指令集,提升矩陣運算效率。

🔮 前景展望AI analysis grounded in cited sources

x86 架構在高效能 AI 運算市場的市佔率將持續下滑。
Arm 架構憑藉其高度客製化與能效優勢,正逐步取代傳統 x86 處理器在 AI 專用伺服器中的地位。
資料中心將全面轉向異質運算架構。
單一通用處理器已無法滿足 AI 模型日益增長的運算需求,CPU 與 GPU 的深度耦合將成為標準設計。

時間線

2020-09
Nvidia 宣布擬以 400 億美元收購 Arm(後於 2022 年因監管因素終止)。
2021-04
Nvidia 正式發表首款基於 Arm 架構的資料中心 CPU「Grace」。
2023-05
Nvidia 正式出貨 Grace Hopper 超級晶片,將 Grace CPU 與 H100 GPU 整合。
2024-03
Nvidia 發表 Blackwell 架構,進一步強化 Grace CPU 與 GPU 的協同運算能力。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Bloomberg Technology