🏠IT之家•較早收集於 5m
Arc Pro B70 AI 推理效能飆升 80%
💡英特爾 GPU 120B LLM 推理加速 80% – 關鍵基準數據！（28字）
⚡ 30-Second TL;DR
有什麼變化
MLPerf v6.0 AI 推理性能比 B60 提升 80%
為什麼重要
為大型 LLM 提供經濟多 GPU 推理，提升長文本處理。多卡協同優化強化企業 AI 部署。軟體升級降低硬體更換門檻。
下一步行動
在 Arc Pro B70 上執行 MLPerf v6.0 基準測試，優化 LLM 推理管線。
誰應關注：Developers & AI Engineers
關鍵要點
- •MLPerf v6.0 AI 推理性能比 B60 提升 80%
- •4x B70：GPT-OSS-120B 離線 1536 tokens/s
- •多卡協同下 KV 快取容量比競品多 1.6 倍
- •軟體升級讓 B60 提升 18% 性能
- •至強 6 實現最高 90% 代際性能躍升
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Arc Pro B70 採用了英特爾最新的 Battlemage 架構，該架構針對矩陣運算單元（XMX）進行了深度優化，特別是在 FP8 和 INT8 精度下的吞吐量顯著提升。
- •此次性能提升不僅依賴硬體架構更新，還得益於英特爾 oneAPI 工具包的升級，特別是針對 PyTorch 和 TensorFlow 的編譯器優化，大幅降低了模型加載與推理延遲。
- •針對企業級市場，Arc Pro B70 引入了增強型的硬體虛擬化技術（SR-IOV），允許在單個 GPU 上更高效地分配 AI 推理資源，以支持多租戶環境下的並行任務。
📊 競品分析▸ Show
| 特性/指標 | Intel Arc Pro B70 | NVIDIA RTX 6000 Ada | AMD Radeon PRO W7900 |
|---|---|---|---|
| 架構 | Battlemage | Ada Lovelace | RDNA 3 |
| 顯存配置 | 32GB (單卡) | 48GB | 48GB |
| AI 推理優化 | 專注於 FP8/INT8 效能 | Tensor Cores (FP8/FP16) | AI 加速器 (FP16/BF16) |
| 軟體生態 | oneAPI | CUDA | ROCm |
🛠️ 技術深入
- 架構細節：採用 Battlemage 架構，核心設計強調提升每瓦效能比，並針對 LLM 推理中的 KV 快取管理進行了硬體級優化。
- 記憶體架構：支援高頻寬 GDDR6 記憶體，並透過優化的記憶體控制器減少大模型推理時的頻寬瓶頸。
- 軟體堆疊：深度整合英特爾 OpenVINO 工具包，實現對 Transformer 模型架構的自動化算子融合與量化加速。
- 多卡互連：支援 PCIe 5.0 介面，在 4 卡並行配置下，透過優化的驅動程式減少跨卡通訊延遲，提升 GPT-OSS-120B 等超大模型的推理效率。
🔮 前景展望AI analysis grounded in cited sources
英特爾將在 2026 年下半年推出針對邊緣運算優化的 B 系列衍生型號。
B70 在推理效能上的顯著提升證明了 Battlemage 架構在功耗受限環境下的潛力，有利於擴展至邊緣 AI 設備。
企業級 AI 伺服器市場份額將因 Arc Pro 系列的性價比優勢而出現結構性調整。
B70 展現出處理 120B 參數模型的能力，為預算有限的企業提供了替代昂貴旗艦 GPU 的高性價比方案。
⏳ 時間線
2024-12
英特爾正式發布基於 Battlemage 架構的 Arc B 系列 GPU 初代產品。
2025-06
英特爾發布針對 Arc Pro 系列的 oneAPI 軟體更新，首次引入針對 LLM 推理的優化庫。
2026-03
MLPerf v6.0 基準測試發布，Arc Pro B70 展現出顯著的代際性能躍升。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： IT之家 ↗