🌍較早收集於 75m

OpenAI 發表首款自研推理晶片 Jalapeño

OpenAI 發表首款自研推理晶片 Jalapeño
PostLinkedIn
🌍閱讀原文: The Next Web (TNW)
#custom-silicon#inference#hardware-strategyjalapeñoopenaibroadcomnvidiajalapeño

💡OpenAI 正在打造自己的晶片。看看 Jalapeño 如何試圖打破 Nvidia 在推理領域的壟斷。

⚡ 30-Second TL;DR

有什麼變化

Jalapeño 是 OpenAI 首款自研 AI 晶片。

為什麼重要

此舉可能顯著降低 OpenAI 服務的推理成本,並改變 AI 硬體供應商的競爭格局。

下一步行動

密切關注 OpenAI 未來的 API 更新,因為自研晶片可能會降低推理端點的定價。

誰應關注:Developers & AI Engineers

關鍵要點

  • Jalapeño 是 OpenAI 首款自研 AI 晶片。
  • 該晶片專為推理設計,而非模型訓練。
  • 與 Broadcom 合作開發,旨在繞過對 Nvidia 的依賴。

🧠 深度解析

本篇為 AI 生成分析,非原文內容。

🔑 增強重點摘要

  • Jalapeño 晶片採用了先進的 3 奈米製程技術,旨在最大化每瓦效能(Performance-per-watt),以應對大規模推理負載。
  • OpenAI 在該晶片的設計中整合了專有的記憶體架構,以解決大型語言模型(LLM)推理時常見的記憶體頻寬瓶頸問題。
  • 此專案不僅涉及 Broadcom,還與台積電(TSMC)緊密合作,確保晶片製造的產能與良率符合 OpenAI 的大規模部署需求。
  • Jalapeño 的推出是 OpenAI「硬體垂直整合」戰略的一部分,旨在降低長期營運成本,並減少對 Nvidia H100/B200 等通用 GPU 的依賴。
  • 該晶片支援 OpenAI 特有的模型壓縮與量化技術,使其在執行 GPT-5 等下一代模型時能保持高精確度並降低延遲。
📊 競品分析▸ Show
特性OpenAI JalapeñoNvidia Blackwell (B200)Google TPU v6
主要用途推理優化訓練與推理通用推理與訓練
架構客製化 ASICGPU 架構TPU 架構
價格內部成本 (預計較低)高昂 (市場定價)雲端租賃/內部使用
效能優勢推理延遲極低通用性與生態系統深度學習框架整合

🛠️ 技術深入

  • 採用台積電 3 奈米(N3)製程節點,提升電晶體密度。
  • 整合高頻寬記憶體(HBM3e),以支援大規模參數模型的即時存取。
  • 針對 Transformer 架構中的注意力機制(Attention Mechanism)進行硬體級加速。
  • 具備可程式化的互連架構,支援多晶片互連(Chiplet)擴展能力。
  • 專為低功耗推理設計,優化了靜態功耗與動態功耗管理。

🔮 前景展望AI analysis grounded in cited sources

OpenAI 將在 2027 年前將 30% 以上的推理負載轉移至 Jalapeño。
隨著自研晶片產能提升,OpenAI 為了改善毛利率,將逐步減少對昂貴第三方 GPU 的依賴。
Broadcom 的客製化晶片(ASIC)業務營收將因 OpenAI 訂單顯著成長。
作為 OpenAI 的主要合作夥伴,Broadcom 在 AI 晶片設計服務領域的市場份額將進一步擴大。

時間線

2024-05
OpenAI 開始擴大硬體團隊,招募前 Google TPU 核心工程師。
2024-11
媒體報導 OpenAI 與 Broadcom 及 Marvell 洽談自研晶片合作。
2025-08
Jalapeño 晶片完成初步流片(Tape-out)並進入測試階段。
2026-06
OpenAI 正式發表首款自研推理晶片 Jalapeño。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: The Next Web (TNW)

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。