SetupAI
EN
來源較早收集於 75m

OpenAI 發表首款自研推理晶片 Jalapeño

閱讀原文： The Next Web (TNW)
#custom-silicon#inference#hardware-strategy

OpenAI 正在打造自己的晶片。看看 Jalapeño 如何試圖打破 Nvidia 在推理領域的壟斷。

30 秒速覽

有什麼變化

Jalapeño 是 OpenAI 首款自研 AI 晶片。

為什麼重要

此舉可能顯著降低 OpenAI 服務的推理成本，並改變 AI 硬體供應商的競爭格局。

下一步行動

密切關注 OpenAI 未來的 API 更新，因為自研晶片可能會降低推理端點的定價。

誰應關注：Developers & AI Engineers

關鍵要點

  • •Jalapeño 是 OpenAI 首款自研 AI 晶片。
  • •該晶片專為推理設計，而非模型訓練。
  • •與 Broadcom 合作開發，旨在繞過對 Nvidia 的依賴。

深度解析

本篇為 AI 生成分析，非原文內容。

增強重點摘要

  • •Jalapeño 晶片採用了先進的 3 奈米製程技術，旨在最大化每瓦效能（Performance-per-watt），以應對大規模推理負載。
  • •OpenAI 在該晶片的設計中整合了專有的記憶體架構，以解決大型語言模型（LLM）推理時常見的記憶體頻寬瓶頸問題。
  • •此專案不僅涉及 Broadcom，還與台積電（TSMC）緊密合作，確保晶片製造的產能與良率符合 OpenAI 的大規模部署需求。
  • •Jalapeño 的推出是 OpenAI「硬體垂直整合」戰略的一部分，旨在降低長期營運成本，並減少對 Nvidia H100/B200 等通用 GPU 的依賴。
  • •該晶片支援 OpenAI 特有的模型壓縮與量化技術，使其在執行 GPT-5 等下一代模型時能保持高精確度並降低延遲。

競品分析

主要用途
OpenAI Jalapeño
推理優化
Nvidia Blackwell (B200)
訓練與推理通用
Google TPU v6
推理與訓練
架構
OpenAI Jalapeño
客製化 ASIC
Nvidia Blackwell (B200)
GPU 架構
Google TPU v6
TPU 架構
價格
OpenAI Jalapeño
內部成本 (預計較低)
Nvidia Blackwell (B200)
高昂 (市場定價)
Google TPU v6
雲端租賃/內部使用
效能優勢
OpenAI Jalapeño
推理延遲極低
Nvidia Blackwell (B200)
通用性與生態系統
Google TPU v6
深度學習框架整合

技術深入

  • 採用台積電 3 奈米（N3）製程節點，提升電晶體密度。
  • 整合高頻寬記憶體（HBM3e），以支援大規模參數模型的即時存取。
  • 針對 Transformer 架構中的注意力機制（Attention Mechanism）進行硬體級加速。
  • 具備可程式化的互連架構，支援多晶片互連（Chiplet）擴展能力。
  • 專為低功耗推理設計，優化了靜態功耗與動態功耗管理。

前景展望基於引用來源的 AI 分析

OpenAI 將在 2027 年前將 30% 以上的推理負載轉移至 Jalapeño。
隨著自研晶片產能提升，OpenAI 為了改善毛利率，將逐步減少對昂貴第三方 GPU 的依賴。
Broadcom 的客製化晶片（ASIC）業務營收將因 OpenAI 訂單顯著成長。
作為 OpenAI 的主要合作夥伴，Broadcom 在 AI 晶片設計服務領域的市場份額將進一步擴大。

時間線

2024-05
OpenAI 開始擴大硬體團隊，招募前 Google TPU 核心工程師。
2024-11
媒體報導 OpenAI 與 Broadcom 及 Marvell 洽談自研晶片合作。
2025-08
Jalapeño 晶片完成初步流片（Tape-out）並進入測試階段。
2026-06
OpenAI 正式發表首款自研推理晶片 Jalapeño。
閱讀原文： The Next Web (TNW)

AI 週報

閱讀本週精選 AI 大事摘要 →

PostLinkedIn

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Next Web (TNW) ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週電子報

每週一封，可隨時退訂。