來源New York Times Technology•較早收集於 9m
OpenAI 與 Broadcom 合作開發客製化 AI 晶片
OpenAI 轉向客製化晶片，標誌著 AI 硬體領域與基礎設施擴展策略的重大轉變。
30 秒速覽
有什麼變化
OpenAI 與 Broadcom 合作開發用於 AI 工作負載的客製化晶片。
為什麼重要
此合作標誌著 OpenAI 在硬體垂直整合方面的策略轉變，旨在減少對 Nvidia 等第三方供應商的依賴。這也凸顯了下一代前沿模型所面臨的極端能源與硬體限制。
下一步行動
密切關注 Broadcom 的投資者關係與技術揭露，了解客製化 AI 晶片架構的規格，以掌握未來硬體趨勢。
誰應關注：Founders & Product Leaders
關鍵要點
- •OpenAI 與 Broadcom 合作開發用於 AI 工作負載的客製化晶片。
- •此計畫旨在解決訓練與運行下一代模型所需的龐大基礎設施需求。
- •預計這些運算作業的能源消耗將高達 10 吉瓦，相當於數百萬家庭的用電量。
深度解析
本篇為 AI 生成分析，非原文內容。
增強重點摘要
- •OpenAI 的晶片策略不僅限於 Broadcom，同時也與台積電（TSMC）合作，利用其先進製程技術進行晶片製造。
- •此項合作旨在減少 OpenAI 對 NVIDIA GPU 的依賴，以緩解供應鏈瓶頸並優化特定 AI 模型架構的執行效率。
- •除了 Broadcom，OpenAI 亦與 Marvell Technology 進行接觸，探索多元化的客製化晶片供應鏈方案。
- •該計畫涉及開發專用的推理晶片（Inference Chips），以降低大規模部署 GPT 系列模型時的高昂營運成本。
- •OpenAI 內部已組建一支由前 Google TPU 團隊成員領軍的硬體工程部門，負責主導晶片架構設計與系統整合。
競品分析
Google
- 晶片策略
- 自研 TPU (Tensor Processing Unit)
- 優勢
- 軟硬體整合度極高，已迭代多代
- 劣勢
- 生態系封閉，外部開發者遷移成本高
Microsoft
- 晶片策略
- 自研 Maia 晶片
- 優勢
- 深度整合 Azure 雲端基礎設施
- 劣勢
- 晶片效能仍需追趕 NVIDIA 高階產品
Amazon
- 晶片策略
- 自研 Trainium 與 Inferentia
- 優勢
- 針對 AWS 雲端工作負載高度優化
- 劣勢
- 僅限於 AWS 生態系使用
Meta
- 晶片策略
- 自研 MTIA (Meta Training and Inference Accelerator)
- 優勢
- 針對推薦系統與社群媒體模型優化
- 劣勢
- 尚未大規模應用於通用大語言模型訓練
| 競爭對手 | 晶片策略 | 優勢 | 劣勢 |
|---|---|---|---|
| 自研 TPU (Tensor Processing Unit) | 軟硬體整合度極高，已迭代多代 | 生態系封閉，外部開發者遷移成本高 | |
| Microsoft | 自研 Maia 晶片 | 深度整合 Azure 雲端基礎設施 | 晶片效能仍需追趕 NVIDIA 高階產品 |
| Amazon | 自研 Trainium 與 Inferentia | 針對 AWS 雲端工作負載高度優化 | 僅限於 AWS 生態系使用 |
| Meta | 自研 MTIA (Meta Training and Inference Accelerator) | 針對推薦系統與社群媒體模型優化 | 尚未大規模應用於通用大語言模型訓練 |
技術深入
- 採用先進的 2 奈米或 3 奈米製程節點，以提升每瓦效能（Performance-per-watt）。
- 整合高頻寬記憶體（HBM3e 或後續規格），解決 AI 模型訓練中的記憶體頻寬瓶頸。
- 針對 Transformer 架構進行硬體層級的算子加速（Operator Acceleration），特別是針對注意力機制（Attention Mechanism）的優化。
- 採用小晶片（Chiplet）封裝技術，將運算單元與記憶體模組進行異質整合，以降低設計複雜度並提高良率。
前景展望基於引用來源的 AI 分析
OpenAI 將顯著降低對 NVIDIA 的採購依賴
透過自研晶片與多元供應鏈策略，OpenAI 能夠在未來 3-5 年內將核心推理工作負載轉移至自有架構。
能源基礎設施將成為 AI 企業的核心競爭力
10 吉瓦的能源需求迫使 OpenAI 必須直接投資能源基礎設施或與電力供應商簽署長期購電協議（PPA）。
時間線
2023-10
OpenAI 傳出開始評估自研 AI 晶片的可行性，並考慮收購潛在目標。
2024-04
OpenAI 高層與台積電及其他晶片設計廠商展開密集會談，討論晶片製造產能。
2024-09
媒體報導 OpenAI 正式與 Broadcom 合作，啟動首款客製化 AI 晶片的設計流程。
2025-05
OpenAI 擴大硬體團隊規模，並確認將採用台積電的先進製程進行晶片試產。
- 2023-10OpenAI 傳出開始評估自研 AI 晶片的可行性，並考慮收購潛在目標。
- 2024-04OpenAI 高層與台積電及其他晶片設計廠商展開密集會談，討論晶片製造產能。
- 2024-09媒體報導 OpenAI 正式與 Broadcom 合作，啟動首款客製化 AI 晶片的設計流程。
- 2025-05OpenAI 擴大硬體團隊規模，並確認將採用台積電的先進製程進行晶片試產。
事件追蹤
AI 週報
閱讀本週精選 AI 大事摘要 →
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： New York Times Technology ↗
每週電子報
每週一封，可隨時退訂。