Intel boosts AI compute density on CPUs

🔑 增強重點摘要

•Intel 的 Xeon 6+ 處理器（代號 Clearwater Forest）採用 Intel 18A 製程技術，並配備多達 288 個高效核心，專為資料中心中 Agentic AI 的協調和資料移動而設計。
•Intel Core Ultra Series 3 處理器同樣基於 Intel 18A，整合了 NPU、GPU 和 CPU，可在邊緣和個人電腦中提供 AI 加速，用於機器人技術中的即時控制和 AI 推理等任務。
•Agentic AI 工作負載將瓶頸從以 GPU 為中心的推理轉移到以 CPU 為主的協調、規劃、工具調用和迭代推理，使 CPU 容量成為關鍵因素。
•Intel 的軟體堆疊，包括 OpenVINO，對於優化 CPU 上的 AI 工作負載至關重要，它支援 TensorFlow 和 PyTorch 等框架，並實現 Agentic RAG 系統的高效部署。
•Intel 正與 Perplexity 等公司合作推動「混合 Agentic AI 推理」模型，其中較小的 AI 模型在本地設備（CPU/NPU/GPU）上運行以保護隱私，而較大的模型則可利用雲端資源。

📊 競品分析▸ Show

特性/產品	Intel	AMD	NVIDIA
AI 加速 CPU	Xeon 6+ (高達 288 個 E-cores), Core Ultra (整合 NPU, GPU)	EPYC (與 Xeon 相比，在某些 AI 工作負載中表現不同)	- (主要為 GPU，但 Agentic AI 導致 CPU 需求增加)
Agentic AI 策略	強調 CPU 在協調、規劃和資料移動中的核心作用；推動混合式本地/雲端推理	預計伺服器 CPU 市場因 Agentic AI 增長超過 35%；強調 CPU 與 GPU 協同作用	主要透過 GPU 加速，但 Agentic AI 導致 CPU 需求增加
AI 軟體堆疊	OpenVINO 工具包 (優化 CPU, GPU, NPU 推理), oneAPI, 支援 TensorFlow, PyTorch	- (未明確提及特定軟體堆疊，但支援通用 AI 框架)	CUDA, TensorRT (主要針對 GPU)
AI 效能指標 (CPU)	Xeon 6980P 在 LCM 上比 AMD EPYC 9755 高出 3.8 倍；DLRMv2 效能提升 2.5 倍	EPYC 9755 (作為 Intel Xeon 效能比較的基準)	-
邊緣 AI/NPU	Core Ultra 處理器內建 NPU (低功耗 AI 引擎), Core Ultra Series 3 提供高達 180 TOPS 的整合 AI 加速	Ryzen AI (整合 NPU)	Jetson AGX Orin (邊緣 AI 平台，Intel Core Ultra X7 358H 在機器人 AI 模型上比其快 50%)
製程技術	Intel 18A (用於 Xeon 6+, Core Ultra Series 3)	-	-

🛠️ 技術深入

Intel Advanced Matrix Extensions (AMX)：內建於第 4、5 和 6 代 Intel Xeon Scalable 處理器中的加速器。
- 包含二維暫存器檔案（tiles）和一個 Tile Matrix Multiplication (TMUL) 引擎。
- 支援 INT8 和 BF16 資料類型，用於矩陣乘法，顯著加速深度學習訓練和推理。
- 第 4 代 Xeon 搭配 AMX 可在每個週期執行 2,048 次 INT8 運算（相較於 AVX-512 VNNI 的 256 次）和 1,024 次 BF16 運算（相較於 64 次 FP32 運算）。
Intel Core Ultra 處理器（Meteor Lake/Series 3）：採用 3D 混合架構 (Foveros)，整合了 CPU（P-cores、E-cores）、GPU（Intel Iris Xe Graphics）和專用的神經處理單元 (NPU)。
- NPU：專為低功耗 AI 加速設計，處理背景 AI 任務並提高電源效率。它包含神經運算引擎 (Neural Compute Engines)，內含用於矩陣乘法和卷積的硬體加速區塊，以及用於通用運算任務的串流混合架構向量引擎 (Streaming Hybrid Architecture Vector Engines, SHAVE)。
- GPU：整合式 Intel Arc 顯示卡（或 Iris Xe）與 XMX AI 引擎，用於突發性、高效能的 AI 任務，例如影片創作。
OpenVINO 工具包：開源工具包，用於優化和部署跨異構 Intel 硬體（CPU、GPU、NPU）的 AI 推理。
- 支援模型壓縮、量化（FP16、INT8、INT4）和運算子融合。
- 在 Intel CPU 上持續降低 Agentic RAG 系統的端到端延遲。
Intel 18A 製程技術：用於 Xeon 6+ 處理器和 Core Ultra Series 3，代表著用於更高密度和效率的先進製造技術。
Foveros Direct 3D 先進封裝：用於 Xeon 6+ 處理器。

🔮 前景展望AI analysis grounded in cited sources

以 CPU 為中心的 AI 基礎設施將在 Agentic AI 工作負載中獲得更多採用。

Agentic AI 強調協調、規劃和工具執行，將瓶頸轉移到 CPU，使 CPU 容量成為關鍵因素，並推動對 CPU 密集型機架的需求。

結合本地設備處理和雲端資源的混合 AI 推理模型將成為隱私敏感型 Agentic AI 應用的標準。

Intel 與 Perplexity 的合作展示了「混合 Agentic AI 推理」方法，其中敏感資料保留在本地 CPU/NPU/GPU 上，而較大的模型則利用雲端，解決了隱私問題並優化了資源使用。

整合 NPU 的 AI PC 和邊緣 AI 設備市場將顯著擴大。

整合 NPU 的 Intel Core Ultra 處理器專為高能效的設備端 AI 加速而設計，可在客戶端運算、機器人技術和工業邊緣環境中實現新的應用場景，且 Series 3 產品已獲得大量客戶採用。

⏳ 時間線

1968-07

Intel 由 Robert Noyce 和 Gordon Moore 創立。

1998

Intel 推出其首款 Xeon 處理器。

2016

Intel Xeon E5 系列成為深度學習推理最廣泛部署的處理器。

2023-07

Intel 推出其 AI 解決方案堆疊，包括 OpenVINO，供開發人員使用。

2024-03

整合 NPU 的 Intel Core Ultra 處理器（Meteor Lake）發布，標誌著 AI PC 的重大架構改進。

2025-09

第 5 代 Intel Xeon 處理器中的 AMX 加速器被強調，可直接在 CPU 上實現高效的矩陣運算。

2026-06

Intel 宣布推出基於 Intel 18A 製程技術的 Xeon 6+ 處理器，配備多達 288 個高效核心，專為資料中心中的 Agentic AI 設計。

2026-06

Intel 宣布推出 Core Ultra Series 3 處理器，同樣基於 Intel 18A，用於邊緣 AI 和 PC，並已獲得超過 130 個設計訂單。

Intel 提升 CPU 的 AI 算力密度

⚡ 30-Second TL;DR

關鍵要點

🧠 深度解析

🔑 增強重點摘要

🛠️ 技術深入

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線

📎 來源 (31)

👉相關動態

Kunlun Tech Mureka V9.5 透過反射推理提升 AI 音樂創作

智能體政策新聞背景與簡要解讀

上海AI大賽聚焦自主科研與核聚變技術