🇨🇳較早收集於 8h

AMD 押注統一記憶體架構以重塑 AI 硬體路線圖

AMD 押注統一記憶體架構以重塑 AI 硬體路線圖
PostLinkedIn
🇨🇳閱讀原文: cnBeta (Full RSS)

💡AMD 向 UMA 的戰略轉向,預示著硬體處理記憶體密集型 Agentic AI 任務的方式將發生重大變革。

⚡ 30-Second TL;DR

有什麼變化

AMD 將 UMA 列為未來產品路線圖的核心方向

為什麼重要

此轉變顯示 AMD 正調整其硬體設計以優化記憶體密集型 AI 任務,可能對 Nvidia 在整合記憶體系統領域的統治地位構成挑戰。

下一步行動

評估您目前 AI 工作負載的記憶體需求,以確定 UMA 優化的硬體是否能降低您的推論延遲。

誰應關注:Developers & AI Engineers

關鍵要點

  • AMD 將 UMA 列為未來產品路線圖的核心方向
  • 專注於支援日益增長的 Agentic AI 應用
  • UMA 被定位為高效能運算平台的關鍵差異化優勢

🧠 深度解析

Web-grounded analysis with 30 cited sources.

🔑 增強重點摘要

  • AMD 的統一記憶體架構 (UMA) 策略已延伸至其 Ryzen AI MAX 系列,首代產品提供高達 128GB 的統一記憶體,其中最多可為 GPU 分配 112GB;而下一代 Ryzen AI MAX 400 系列將支援高達 192GB 統一記憶體,其中 160GB 可供 GPU 使用,使其能夠在本地端執行超過 3000 億參數的大型語言模型 (LLM)。
  • UMA 被視為「代理式 AI」(Agentic AI) 工作負載的關鍵組成部分,這類 AI 應用需要高吞吐量、低延遲,並能長時間在本地端執行複雜的多步驟任務,從而減少對雲端推論的依賴及相關成本。
  • AMD 正將其 RDNA (消費級) 和 CDNA (資料中心) 微架構統一為單一的「UDNA」架構,旨在簡化開發流程,並透過提供從雲端到客戶端的一致平台來挑戰 NVIDIA 的 CUDA 生態系統。
  • AMD 的 MI300 系列(包括 MI300A APU 和 MI300X 純 GPU)採用 3D 小晶片 (Chiplet) 架構和先進封裝技術(如台積電的 SoIC 和 CoWoS),以實現 CPU 和 GPU 之間共享記憶體空間及「零複製」資料傳輸,有效解決記憶體頻寬瓶頸。
📊 競品分析▸ Show
特性/產品AMD (UMA 策略)NVIDIA (統一記憶體)Intel (統一記憶體)
核心概念將 CPU、GPU 與記憶體緊密耦合在同一 SoC 上,形成共享記憶體池,動態分配資源,減少資料複製。CUDA 統一記憶體,提供單一記憶體位址空間供 CPU 和 GPU 存取,透過硬體頁面錯誤和遷移引擎(Pascal 及更新架構)實現。oneAPI 統一共享記憶體 (UMF),旨在提供跨 CPU、GPU、FPGA 的開放、標準化程式設計模型。
代表產品Ryzen AI MAX 系列 (PC/邊緣), Instinct MI300 系列 (資料中心)。RTX Spark (PC), Grace Hopper (資料中心)。Core Ultra 系列內建 GPU, Arc 系列獨立顯示卡。
記憶體容量/分配Ryzen AI MAX 400 系列最高支援 192GB 統一記憶體,GPU 可分配 160GB。 MI300X 提供 192GB HBM3 統一容量。Pascal GPU 支援 49 位元虛擬定址和按需頁面遷移。 Grace Hopper 系統具備硬體一致性記憶體,主機可直接存取 GPU 駐留記憶體。最新驅動程式允許 Arc GPU 和 Core Ultra 內建 GPU 調用高達 93% 的系統 RAM 作為顯示記憶體,在 128GB RAM 平台上可獲得超過 112GB 可用空間。
軟體生態ROCm 開源軟體堆疊,支援 Triton、Hugging Face 等開源 AI 平台。CUDA 平台,擁有 400 萬開發者,生態系統成熟且封閉。oneAPI 包含 Data Parallel C++ (DPC++)、函式庫和分析工具,旨在實現跨架構程式碼可移植性。
資料傳輸MI300 系列透過 3D Chiplet 架構實現 CPU-GPU 共享記憶體空間及「零複製」傳輸。Grace Hopper 透過 NVLink-C2C 實現 GPU-CPU 高速互聯。統一共享記憶體自動處理記憶體和裝置附加記憶體之間的遷移。

🛠️ 技術深入

  • AMD 的 MI300 系列統一記憶體實作利用 3D 小晶片架構和先進封裝技術,包括台積電的 SoIC (3D) 和 CoWoS (2.5D)。
  • MI300X 加速器配備 192GB 的統一 HBM3 記憶體,峰值頻寬達 5.3 TB/s,並包含 256MB 的 Infinity Cache。它由 4 個 IOD (I/O Die) 組成,每個 IOD 包含 2 個 HBM 堆疊,共 8 個 HBM 堆疊。
  • CDNA 3 架構是 MI300 系列的基礎,整合了 AMD 的小晶片技術與高頻寬記憶體 (HBM),形成高吞吐量的 Infinity Architecture 網狀架構,並提供先進的矩陣核心技術,以減少資料移動開銷並提升能效。
  • MI300X 支援動態運算和記憶體分區,可將單一 GPU 視為一個整體單元 (SPX 模式),或將每個加速器複合晶粒 (XCD) 視為獨立的邏輯 GPU (CPX 模式),每個 XCD 包含 38 個運算單元 (CU) 和 24GB HBM。
  • 針對客戶端 AI,Ryzen AI MAX 系列在 CPU 和 GPU 之間動態分配系統記憶體。Ryzen AI MAX 400 系列在其 192GB 統一記憶體中,最多可為 GPU 分配 160GB。
  • AMD 的 ROCm 推論解決方案在 Ryzen AI Halo 開發者平台等硬體上原生支援,並針對 LM Studio 和 ComfyUI 等工具進行了深度最佳化。

🔮 前景展望AI analysis grounded in cited sources

AMD 的 UMA 策略將顯著降低本地 AI 開發與部署的門檻。
透過讓數千億參數的大型語言模型能在具備高統一記憶體容量的客戶端 PC 上本地運行,AMD 減少了對昂貴雲端推論或專用高 VRAM GPU 的需求,使 AI 開發更具可及性。
代理式 AI 的興起將改變資料中心的 CPU/GPU 配比,提升高效能 CPU 的重要性與需求。
代理式 AI 工作負載涉及複雜的推理、任務協調和頻繁的 I/O,除了 GPU 加速推論外,也高度依賴 CPU 的能力,這將導致 AI 基礎設施中 CPU 角色被重新評估。
AMD 將 RDNA 和 CDNA 統一為 UDNA 的舉措,將強化其軟體生態系統並提升對抗 NVIDIA 的競爭力。
單一統一的架構簡化了從遊戲到資料中心 AI 等廣泛應用的開發,可能吸引更多開發者使用 AMD 的開源 ROCm 平台,進而挑戰 NVIDIA 既有的 CUDA 主導地位。

時間線

2013-12
NVIDIA 推出 CUDA 6.0,引入「統一記憶體」概念。
2017-06
NVIDIA 透過 Pascal GPU(如 Tesla P100)顯著改進統一記憶體功能,支援硬體頁面錯誤和遷移。
2023-12
AMD 推出 Instinct MI300X 加速器和 MI300A APU,採用 CDNA 3 架構和 HBM3,並整合統一記憶體概念。
2024-09
AMD 宣布計畫將 RDNA 和 CDNA 微架構統一為「UDNA」,以簡化消費級和資料中心領域的開發。
2025-01
HP 發表一款採用 AMD 處理器、具備 128GB 統一記憶體(其中 96GB 可作為 VRAM)的生成式 AI 機器。
2026-06
AMD 發表 Ryzen AI MAX 400 系列處理器,最高支援 192GB 統一記憶體,能夠在本地端運行超過 3000 億參數的 LLM,並推出 Ryzen AI Halo 開發者平台。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: cnBeta (Full RSS)