🔧Tom's Hardware•最新收集於 82m
OpenAI 的 Jalapeño ASIC 瞄準高效能推論
#ai-accelerator#inference#performance-per-watt#asicjalapeño-ai-asicopenaijalapeñonvidiablackwell
💡OpenAI 首款 ASIC 或許犧牲峰值速度，換取推論系統所需的效率與低延遲。
⚡ 30-Second TL;DR
有什麼變化
Jalapeño 在原始效能方面未擊敗 Nvidia Blackwell。
為什麼重要
若報導中的特性獲得證實，Jalapeño 可能提升 OpenAI 優化推論成本效益的能力，並降低對通用 GPU 的依賴。其實際價值仍取決於軟體相容性、部署規模與真實工作負載測試結果。
下一步行動
在評估以 Jalapeño 為基礎的替代方案前，先使用延遲、每瓦 token 數與每次請求成本等指標，對 Blackwell 級 GPU 的推論堆疊進行基準測試。
誰應關注：Developers & AI Engineers
關鍵要點
- •Jalapeño 在原始效能方面未擊敗 Nvidia Blackwell。
- •它的優勢在於每瓦效能與低延遲。
- •這款 ASIC 主要針對推論工作負載，而非最大化訓練吞吐量。
- •據報導，這款加速器採用了 AI 輔助設計方法開發。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 11 個來源。
🔑 增強重點摘要
- •Jalapeño 是由 OpenAI 與 Broadcom 合作開發的客製化 ASIC，旨在降低對 Nvidia CUDA 生態系統的依賴。
- •該晶片採用台積電 N3P 製程與 HBM4 記憶體技術，專為記憶體密集型的推論任務進行了硬體層級的優化。
- •OpenAI 開發了名為「Gluon」的專有核心程式語言，用於取代或輔助現有的軟體堆疊以提升運作效率。
- •Jalapeño 採用記憶體切片（memory-sliced）的 NUMA 風格架構，包含 64 個核心切片，每個切片均配備專屬 HBM 以確保低延遲。
- •OpenAI 採取內部部署策略，明確表示 Jalapeño 將僅供自家資料中心使用，不會對外銷售，旨在優化營運成本與基礎設施控制權。
📊 競品分析▸ Show
| 特性 | OpenAI Jalapeño | Nvidia Blackwell (GB200) |
|---|---|---|
| 核心定位 | 推論專用 (Inference) | 訓練與推論通用 (Training/Inference) |
| 每瓦效能 | 優於 Blackwell (1.5x-1.9x) | 基準參考值 |
| 記憶體技術 | HBM4 | HBM3e |
| 軟體生態 | Gluon (專有) | CUDA (成熟) |
| 商業模式 | 內部自用 | 對外銷售 |
🛠️ 技術深入
- 採用 64 個核心切片架構，每個切片對應獨立 HBM 記憶體以降低存取延遲。
- 支援 HBM4 高頻寬記憶體，顯著提升記憶體密集型模型的處理速度。
- 採用台積電 N3P 先進製程節點，實現 700W TDP 設計，實際負載功耗約 550W。
- 具備通用推論能力，可支援 GPT-OSS 120B、DeepSeek R1 及 Kimi K2.5 等多種模型架構。
🔮 前景展望AI analysis grounded in cited sources
OpenAI 將顯著降低對 Nvidia 硬體的依賴程度。
透過內部部署自研 ASIC 與專有 Gluon 語言，OpenAI 正在建立獨立於 CUDA 之外的基礎設施。
Jalapeño 的開發模式將改變半導體產業的設計週期。
利用 AI 輔助設計將開發至 Tape-out 的週期縮短至九個月，證明了 AI 在晶片設計自動化（EDA）領域的潛力。
⏳ 時間線
2025-11
Jalapeño 專案進入關鍵設計階段，利用 OpenAI 內部 AI 模型加速開發。
2026-08
於 Hot Chips 2026 大會正式對外揭露 Jalapeño ASIC 技術細節。
📎 來源 (11)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Tom's Hardware ↗
每週 AI 簡報
每週一封，可隨時退訂。