📰New York Times Technology•較早收集於 9m
OpenAI 與 Broadcom 合作開發客製化 AI 晶片
💡OpenAI 轉向客製化晶片，標誌著 AI 硬體領域與基礎設施擴展策略的重大轉變。
⚡ 30-Second TL;DR
有什麼變化
OpenAI 與 Broadcom 合作開發用於 AI 工作負載的客製化晶片。
為什麼重要
此合作標誌著 OpenAI 在硬體垂直整合方面的策略轉變，旨在減少對 Nvidia 等第三方供應商的依賴。這也凸顯了下一代前沿模型所面臨的極端能源與硬體限制。
下一步行動
密切關注 Broadcom 的投資者關係與技術揭露，了解客製化 AI 晶片架構的規格，以掌握未來硬體趨勢。
誰應關注：Founders & Product Leaders
關鍵要點
- •OpenAI 與 Broadcom 合作開發用於 AI 工作負載的客製化晶片。
- •此計畫旨在解決訓練與運行下一代模型所需的龐大基礎設施需求。
- •預計這些運算作業的能源消耗將高達 10 吉瓦，相當於數百萬家庭的用電量。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •OpenAI 的晶片策略不僅限於 Broadcom，同時也與台積電（TSMC）合作，利用其先進製程技術進行晶片製造。
- •此項合作旨在減少 OpenAI 對 NVIDIA GPU 的依賴，以緩解供應鏈瓶頸並優化特定 AI 模型架構的執行效率。
- •除了 Broadcom，OpenAI 亦與 Marvell Technology 進行接觸，探索多元化的客製化晶片供應鏈方案。
- •該計畫涉及開發專用的推理晶片（Inference Chips），以降低大規模部署 GPT 系列模型時的高昂營運成本。
- •OpenAI 內部已組建一支由前 Google TPU 團隊成員領軍的硬體工程部門，負責主導晶片架構設計與系統整合。
📊 競品分析▸ Show
| 競爭對手 | 晶片策略 | 優勢 | 劣勢 |
|---|---|---|---|
| 自研 TPU (Tensor Processing Unit) | 軟硬體整合度極高，已迭代多代 | 生態系封閉，外部開發者遷移成本高 | |
| Microsoft | 自研 Maia 晶片 | 深度整合 Azure 雲端基礎設施 | 晶片效能仍需追趕 NVIDIA 高階產品 |
| Amazon | 自研 Trainium 與 Inferentia | 針對 AWS 雲端工作負載高度優化 | 僅限於 AWS 生態系使用 |
| Meta | 自研 MTIA (Meta Training and Inference Accelerator) | 針對推薦系統與社群媒體模型優化 | 尚未大規模應用於通用大語言模型訓練 |
🛠️ 技術深入
- 採用先進的 2 奈米或 3 奈米製程節點，以提升每瓦效能（Performance-per-watt）。
- 整合高頻寬記憶體（HBM3e 或後續規格），解決 AI 模型訓練中的記憶體頻寬瓶頸。
- 針對 Transformer 架構進行硬體層級的算子加速（Operator Acceleration），特別是針對注意力機制（Attention Mechanism）的優化。
- 採用小晶片（Chiplet）封裝技術，將運算單元與記憶體模組進行異質整合，以降低設計複雜度並提高良率。
🔮 前景展望AI analysis grounded in cited sources
OpenAI 將顯著降低對 NVIDIA 的採購依賴
透過自研晶片與多元供應鏈策略，OpenAI 能夠在未來 3-5 年內將核心推理工作負載轉移至自有架構。
能源基礎設施將成為 AI 企業的核心競爭力
10 吉瓦的能源需求迫使 OpenAI 必須直接投資能源基礎設施或與電力供應商簽署長期購電協議（PPA）。
⏳ 時間線
2023-10
OpenAI 傳出開始評估自研 AI 晶片的可行性，並考慮收購潛在目標。
2024-04
OpenAI 高層與台積電及其他晶片設計廠商展開密集會談，討論晶片製造產能。
2024-09
媒體報導 OpenAI 正式與 Broadcom 合作，啟動首款客製化 AI 晶片的設計流程。
2025-05
OpenAI 擴大硬體團隊規模，並確認將採用台積電的先進製程進行晶片試產。
📰 事件追蹤
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： New York Times Technology ↗