🖥️Computerworld•最新收集於 23m
AI 晶片走向超越 Nvidia GPU 的新時代
💡OpenAI 的 Jalapeño 與新型 CPU 加速器，預示更便宜且更多元的 AI 推論基礎設施。
⚡ 30-Second TL;DR
有什麼變化
OpenAI 公開 Jalapeño 自研推論晶片，目標是在降低交付成本的同時服務更多需求。
為什麼重要
更低成本、低耗電的推論技術，可能讓代理型 AI 在更多部署環境中具備經濟可行性。開發者與企業將擁有更多硬體選擇，但也必須針對日益異質的基礎設施進行工作負載最佳化，不能再假設所有環境都相容於 Nvidia GPU。
下一步行動
在決定下一次基礎設施採購前，請使用具代表性的工作負載，分別在 Nvidia GPU 及至少一種 CPU 或專用加速器上進行基準測試。
誰應關注：Developers & AI Engineers
關鍵要點
- •OpenAI 公開 Jalapeño 自研推論晶片，目標是在降低交付成本的同時服務更多需求。
- •SemiAnalysis 表示，Jalapeño 在多個開源模型測試中擊敗其測試過的 Nvidia、AMD 與 Google 晶片。
- •Nvidia 發表 Vera CPU 與 Groq 3 LPX 推論晶片，顯示 AI 基礎設施正超越單一 GPU 架構。
- •Intel 的 Diamond Rapids 伺服器 CPU 與 Wildcat Lake PC CPU，反映 AI 工作負載正逐步轉移至 CPU 與本地裝置。
- •AI 推論預期將擴展至邊緣平台、AI PC、本地化伺服器及主權資料中心。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 10 個來源。
🔑 增強重點摘要
- •Intel 於 Hot Chips '26 發布了 Crescent Island 加速器，採用 Xe3P 架構並配置 480 GB LPDDR5X 記憶體，專攻推論市場而非大規模訓練。
- •亞馬遜（Amazon）已將其 Trainium 自研晶片作為新採購的主力，藉此節省數十億美元的資本支出，顯示超大規模雲端供應商的去 Nvidia 化趨勢。
- •Nvidia 透過 Bluefield-4 DPU 結合 Dynamo 軟體技術，宣稱能將推論效能提升高達 5 倍，以應對來自自研晶片的競爭。
- •市場數據顯示，儘管 Nvidia 仍佔據 75% 至 92% 的市佔率，但超大規模雲端供應商的自研加速器成長率高達 45%，遠高於傳統 GPU 供應商的 16%。
- •AI 基礎設施的瓶頸已從單純的運算單元轉向供應鏈整合，Broadcom、Arista Networks 與 Vertiv 等負責網路與電力冷卻的廠商地位顯著提升。
📊 競品分析▸ Show
| 產品/架構 | 廠商 | 核心優勢 | 記憶體配置 |
|---|---|---|---|
| Jalapeño | OpenAI | 推論成本效益、專用架構 | 未公開 |
| Crescent Island | Intel | 350W 低功耗、Xe3P 架構 | 480 GB LPDDR5X |
| MI455X | AMD | GPU 替代方案、OpenAI 合作 | 未公開 |
| Vera Rubin | Nvidia | 生態系整合、Bluefield-4 加速 | 未公開 |
🛠️ 技術深入
- Intel Crescent Island 採用 PCIe 介面設計，功耗控制在 350W，適合氣冷式伺服器環境。
- Nvidia Bluefield-4 DPU 透過 Dynamo 軟體層優化資料傳輸路徑，專門解決推論過程中的延遲問題。
- OpenAI Jalapeño 晶片架構針對 Token 生成進行硬體層級優化，旨在突破傳統 GPU 在記憶體頻寬上的限制。
- 業界普遍採用 LPDDR5X 記憶體以降低推論晶片的功耗並提升單位面積的頻寬效率。
🔮 前景展望AI analysis grounded in cited sources
超大規模雲端供應商的自研晶片市佔率將在 2028 年前突破 25%。
基於目前自研加速器 45% 的年成長率，雲端巨頭為降低對 Nvidia 的依賴將持續擴大自研晶片部署。
AI 推論市場將出現硬體規格分流，邊緣運算與資料中心將採用截然不同的架構。
隨著 Intel 等廠商推出針對推論優化的專用加速器，通用型 GPU 在推論任務上的性價比優勢將逐漸減弱。
⏳ 時間線
2025-06
OpenAI 與 AMD 達成戰略合作，共同開發針對推論優化的硬體解決方案。
2026-03
Nvidia 發布 Vera Rubin 架構，旨在強化下一代 AI 基礎設施的運算效能。
2026-08
Hot Chips '26 召開，OpenAI 正式揭露 Jalapeño 自研推論晶片細節。
📎 來源 (10)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Computerworld ↗
每週 AI 簡報
每週一封，可隨時退訂。