🌍The Next Web (TNW)•較早收集於 75m
OpenAI 發表首款自研推理晶片 Jalapeño

#custom-silicon#inference#hardware-strategyjalapeñoopenaibroadcomnvidiajalapeño
💡OpenAI 正在打造自己的晶片。看看 Jalapeño 如何試圖打破 Nvidia 在推理領域的壟斷。
⚡ 30-Second TL;DR
有什麼變化
Jalapeño 是 OpenAI 首款自研 AI 晶片。
為什麼重要
此舉可能顯著降低 OpenAI 服務的推理成本,並改變 AI 硬體供應商的競爭格局。
下一步行動
密切關注 OpenAI 未來的 API 更新,因為自研晶片可能會降低推理端點的定價。
誰應關注:Developers & AI Engineers
關鍵要點
- •Jalapeño 是 OpenAI 首款自研 AI 晶片。
- •該晶片專為推理設計,而非模型訓練。
- •與 Broadcom 合作開發,旨在繞過對 Nvidia 的依賴。
🧠 深度解析
本篇為 AI 生成分析,非原文內容。
🔑 增強重點摘要
- •Jalapeño 晶片採用了先進的 3 奈米製程技術,旨在最大化每瓦效能(Performance-per-watt),以應對大規模推理負載。
- •OpenAI 在該晶片的設計中整合了專有的記憶體架構,以解決大型語言模型(LLM)推理時常見的記憶體頻寬瓶頸問題。
- •此專案不僅涉及 Broadcom,還與台積電(TSMC)緊密合作,確保晶片製造的產能與良率符合 OpenAI 的大規模部署需求。
- •Jalapeño 的推出是 OpenAI「硬體垂直整合」戰略的一部分,旨在降低長期營運成本,並減少對 Nvidia H100/B200 等通用 GPU 的依賴。
- •該晶片支援 OpenAI 特有的模型壓縮與量化技術,使其在執行 GPT-5 等下一代模型時能保持高精確度並降低延遲。
📊 競品分析▸ Show
| 特性 | OpenAI Jalapeño | Nvidia Blackwell (B200) | Google TPU v6 |
|---|---|---|---|
| 主要用途 | 推理優化 | 訓練與推理通用 | 推理與訓練 |
| 架構 | 客製化 ASIC | GPU 架構 | TPU 架構 |
| 價格 | 內部成本 (預計較低) | 高昂 (市場定價) | 雲端租賃/內部使用 |
| 效能優勢 | 推理延遲極低 | 通用性與生態系統 | 深度學習框架整合 |
🛠️ 技術深入
- 採用台積電 3 奈米(N3)製程節點,提升電晶體密度。
- 整合高頻寬記憶體(HBM3e),以支援大規模參數模型的即時存取。
- 針對 Transformer 架構中的注意力機制(Attention Mechanism)進行硬體級加速。
- 具備可程式化的互連架構,支援多晶片互連(Chiplet)擴展能力。
- 專為低功耗推理設計,優化了靜態功耗與動態功耗管理。
🔮 前景展望AI analysis grounded in cited sources
OpenAI 將在 2027 年前將 30% 以上的推理負載轉移至 Jalapeño。
隨著自研晶片產能提升,OpenAI 為了改善毛利率,將逐步減少對昂貴第三方 GPU 的依賴。
Broadcom 的客製化晶片(ASIC)業務營收將因 OpenAI 訂單顯著成長。
作為 OpenAI 的主要合作夥伴,Broadcom 在 AI 晶片設計服務領域的市場份額將進一步擴大。
⏳ 時間線
2024-05
OpenAI 開始擴大硬體團隊,招募前 Google TPU 核心工程師。
2024-11
媒體報導 OpenAI 與 Broadcom 及 Marvell 洽談自研晶片合作。
2025-08
Jalapeño 晶片完成初步流片(Tape-out)並進入測試階段。
2026-06
OpenAI 正式發表首款自研推理晶片 Jalapeño。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: The Next Web (TNW) ↗
每週 AI 簡報
每週一封,可隨時退訂。


