🔧Tom's Hardware•最新收集於 17m
OpenAI 的 Jalapeño ASIC 挑戰 Nvidia GB300
#ai-accelerator#inference-efficiency#throughput-per-watt#hot-chipsopenai-jalapeño-asicopenaijalapeñobroadcomnvidiagb300
💡據稱 1.9 倍的效率優勢，可能改變大規模 AI 推論的經濟效益。
⚡ 30-Second TL;DR
有什麼變化
OpenAI 聲稱，700W Jalapeño ASIC 在特定基準測試中擊敗 Nvidia 的 1,400W GB300。
為什麼重要
若經獨立驗證，Jalapeño 可能降低推論電力成本，並對 Nvidia 在 AI 加速器基礎設施的主導地位形成壓力。不過，實務團隊仍應在採用前確認測試涵蓋的工作負載、軟體成熟度與部署可用性，不能將這些數據直接視為普遍結果。
下一步行動
在評估採用 Jalapeño 前，先檢視 OpenAI 的 Hot Chips 基準測試方法，並在自有代表性推論工作負載上重現每瓦吞吐量與延遲測試。
誰應關注：Developers & AI Engineers
關鍵要點
- •OpenAI 聲稱，700W Jalapeño ASIC 在特定基準測試中擊敗 Nvidia 的 1,400W GB300。
- •據報導，其每千瓦吞吐量最高提升 1.9 倍，延遲降低 3.6 倍。
- •這款內部開發晶片由 Broadcom 共同開發，並於 Hot Chips 發表。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 9 個來源。
🔑 增強重點摘要
- •Jalapeño 晶片採用了最新的 HBM4 記憶體架構，在記憶體頻寬與效能密度上領先於 Nvidia GB300 所使用的 HBM3E。
- •OpenAI 開發了一套名為「Gluon」的專有核心程式語言，旨在擺脫對 Nvidia CUDA 生態系統的依賴。
- •該晶片的開發週期極短，僅耗時 16 個月，且過程中大量運用了 OpenAI 自家的 AI 模型來加速晶片設計與驗證流程。
- •Jalapeño 的系統架構採用分離式設計，由「Katsu」主機 CPU 機架與包含 128 個 ASIC 的「Chana」運算機架組成。
- •基準測試涵蓋了多種大型模型，包括 GPT-OSS 120B、DeepSeek R1 670B 以及 Moonshot AI 的 Kimi K2.5（1 兆參數）。
📊 競品分析▸ Show
| 特性 | OpenAI Jalapeño | Nvidia GB300 |
|---|---|---|
| 功耗 (TDP) | 700W | 1,400W |
| 記憶體類型 | HBM4 | HBM3E |
| 軟體生態 | Gluon | CUDA |
| 延遲表現 | 基準測試降低 3.6 倍 | 基準參考點 |
🛠️ 技術深入
- 採用 HBM4 高頻寬記憶體以提升資料傳輸效率。
- 系統架構分為 Katsu (CPU 機架) 與 Chana (128 個 ASIC 機架) 模組化設計。
- 軟體層面透過 Gluon 語言實現對底層硬體的直接控制與優化。
- 實際運行功耗在測試中維持於 550W 以下，遠低於其 700W 的額定 TDP。
🔮 前景展望AI analysis grounded in cited sources
OpenAI 將在 2026 年底前於自有資料中心大規模部署 Jalapeño。
公司已明確規劃將該晶片用於支援 ChatGPT、Codex 及未來的代理服務。
Nvidia 在 AI 推論市場的市佔率將面臨結構性挑戰。
Jalapeño 在每千瓦吞吐量與延遲上的顯著優勢，將迫使雲端服務供應商重新評估硬體採購策略。
⏳ 時間線
2025-04
OpenAI 啟動 Jalapeño ASIC 專案開發。
2026-08
於 Hot Chips 大會正式發表 Jalapeño ASIC 並公布基準測試結果。
📎 來源 (9)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Tom's Hardware ↗
每週 AI 簡報
每週一封，可隨時退訂。