來源cnBeta (Full RSS)•較早收集於 12m
OpenAI 攜手 Broadcom 發布自研 AI 晶片 Jalapeño

#custom-silicon#inference#computejalapeño-ai-chipopenaibroadcomnvidiachatgpt
OpenAI 首款自研晶片標誌著降低對 Nvidia 依賴並優化推論成本的重大舉措。
30 秒速覽
有什麼變化
Jalapeño 專為 AI 推論工作負載設計
為什麼重要
此舉標誌著 OpenAI 在基礎設施策略上的重大轉變,透過垂直整合來控制成本與效能。這對 Nvidia 在 AI 硬體市場的統治地位構成了長期競爭威脅。
下一步行動
評估像 Jalapeño 這類自研晶片如何影響未來 AI 應用程式的 API 延遲與成本結構。
誰應關注:Developers & AI Engineers
關鍵要點
- •Jalapeño 專為 AI 推論工作負載設計
- •與 Broadcom 合作開發,旨在降低對 Nvidia 的依賴
- •專注於優化 ChatGPT 與智能體任務的核心運算
深度解析
本篇為 AI 生成分析,非原文內容。
增強重點摘要
- •Jalapeño 晶片採用台積電(TSMC)先進製程技術製造,旨在解決 OpenAI 在大規模推論時面臨的算力瓶頸。
- •此合作案中,Broadcom 主要提供矽智財(IP)授權與晶片設計服務,協助 OpenAI 將其軟體演算法直接硬體化。
- •OpenAI 此次開發策略轉向「垂直整合」,意在透過客製化晶片降低每單位推論成本(Cost-per-inference),以維持 ChatGPT 免費或低價服務的獲利能力。
- •除了 Broadcom,OpenAI 同時與 Marvell 等其他晶片設計廠商保持接觸,以確保供應鏈多元化並分散地緣政治風險。
- •Jalapeño 晶片架構特別針對 Transformer 模型中的注意力機制(Attention Mechanism)進行了硬體層級的加速優化。
競品分析
主要用途
- OpenAI Jalapeño
- AI 推論 (Inference)
- Nvidia Blackwell (B200)
- 訓練與推論 (通用)
- Google TPU v6
- AI 訓練與推論
架構
- OpenAI Jalapeño
- 客製化 ASIC
- Nvidia Blackwell (B200)
- GPU 架構
- Google TPU v6
- TPU 架構
成本效益
- OpenAI Jalapeño
- 極高 (針對性優化)
- Nvidia Blackwell (B200)
- 中 (通用型成本高)
- Google TPU v6
- 高 (內部生態系)
生態系
- OpenAI Jalapeño
- OpenAI 專用
- Nvidia Blackwell (B200)
- CUDA (業界標準)
- Google TPU v6
- JAX/TensorFlow
| 特性 | OpenAI Jalapeño | Nvidia Blackwell (B200) | Google TPU v6 |
|---|---|---|---|
| 主要用途 | AI 推論 (Inference) | 訓練與推論 (通用) | AI 訓練與推論 |
| 架構 | 客製化 ASIC | GPU 架構 | TPU 架構 |
| 成本效益 | 極高 (針對性優化) | 中 (通用型成本高) | 高 (內部生態系) |
| 生態系 | OpenAI 專用 | CUDA (業界標準) | JAX/TensorFlow |
技術深入
- 採用先進封裝技術(CoWoS 或類似方案)以提升記憶體頻寬。
- 針對 FP8 與 INT8 量化運算進行硬體加速,以提升推論效率。
- 整合高頻寬記憶體(HBM3e)以減少資料傳輸延遲。
- 具備專用的片上互連(On-chip Interconnect)技術,優化多晶片並行處理能力。
前景展望基於引用來源的 AI 分析
Nvidia 在 AI 晶片市場的市佔率將面臨結構性下滑。
隨著 OpenAI 等大型客戶轉向自研晶片,Nvidia 的通用型 GPU 需求將被更具成本效益的客製化 ASIC 取代。
OpenAI 將大幅降低對外部雲端算力供應商的依賴。
透過自研晶片與自有資料中心基礎設施的結合,OpenAI 將能更有效地控制營運成本與模型部署速度。
時間線
2023-10
OpenAI 傳出探索自研 AI 晶片計畫並評估潛在收購目標。
2024-04
OpenAI 與 Broadcom 建立深度合作關係,啟動客製化晶片設計專案。
2025-09
Jalapeño 晶片完成流片(Tape-out)並進入試產階段。
2026-06
OpenAI 正式發布 Jalapeño 晶片並宣布投入大規模生產。
- 2023-10OpenAI 傳出探索自研 AI 晶片計畫並評估潛在收購目標。
- 2024-04OpenAI 與 Broadcom 建立深度合作關係,啟動客製化晶片設計專案。
- 2025-09Jalapeño 晶片完成流片(Tape-out)並進入試產階段。
- 2026-06OpenAI 正式發布 Jalapeño 晶片並宣布投入大規模生產。
事件追蹤
AI 週報
閱讀本週精選 AI 大事摘要 →
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: cnBeta (Full RSS) ↗
每週電子報
每週一封,可隨時退訂。
