🇬🇧The Register - AI/ML•較早收集於 15m
亞馬遜 AI 晶片達 200 億美元年化營收
💡亞馬遜 AI 晶片年收 200 億美元，全球前三 – 基礎設施成本變革者（28字）
⚡ 30-Second TL;DR
有什麼變化
亞馬遜半導體年化營收超 200 億美元
為什麼重要
亞馬遜在 AI 晶片領域快速崛起，加劇與 Nvidia 等競爭，可能降低 AI 訓練成本。此舉強化 AWS 作為企業擴展 ML 工作負載的關鍵 AI 基礎設施供應商。
下一步行動
針對下一個 ML 訓練任務，基準測試 AWS Trainium 實例與 GPU 的效能。
誰應關注：Developers & AI Engineers
關鍵要點
- •亞馬遜半導體年化營收超 200 億美元
- •全球前三大資料中心晶片業務
- •Trainium 推動 AI 成長
- •Jassy：含內部使用近 500 億美元
- •Q1 財報電話會議公布
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •亞馬遜的晶片策略不僅限於 Trainium，其 Inferentia 系列晶片在處理大規模推理工作負載方面，已成為 AWS 降低客戶 AI 推理成本的核心競爭力。
- •AWS 透過與 Anthropic 等頂尖 AI 模型開發商的深度合作，將 Trainium 晶片直接整合至模型訓練流程中，成功驗證了其晶片在處理超大規模參數模型時的效能與穩定性。
- •亞馬遜的晶片營收計算方式包含 AWS 基礎設施服務的垂直整合價值，這與 NVIDIA 單純銷售硬體的營收模式有顯著差異，反映了雲端服務供應商（CSP）轉型為晶片設計商的產業趨勢。
📊 競品分析▸ Show
| 特性/晶片 | Amazon Trainium/Inferentia | NVIDIA H100/B200 | Google TPU v5p |
|---|---|---|---|
| 主要定位 | AWS 專用雲端加速器 | 通用高效能 AI 加速器 | Google Cloud 專用加速器 |
| 定價模式 | 僅限 AWS 租賃 (按需/預留) | 硬體銷售 + 雲端租賃 | 僅限 GCP 租賃 |
| 架構優勢 | 針對 AWS 軟體堆疊優化 | CUDA 生態系極強，通用性高 | 針對 TensorFlow/JAX 優化 |
🛠️ 技術深入
- Trainium2 晶片採用台積電 5nm 製程，相較於第一代 Trainium，其訓練效能提升約 4 倍，記憶體容量提升 3 倍。
- 支援 Neuron SDK，允許開發者透過 PyTorch 或 TensorFlow 框架進行編譯，無需大幅修改現有程式碼即可遷移至 AWS 自研晶片。
- 具備 UltraClusters 技術，可將數萬個 Trainium 晶片互連，形成超大規模叢集，以應對千億參數級別模型的訓練需求。
- Inferentia2 專注於低延遲推理，支援動態輸入形狀與多模型並行處理，顯著降低了大型語言模型（LLM）的單位推理成本。
🔮 前景展望AI analysis grounded in cited sources
亞馬遜將進一步減少對 NVIDIA 高階 GPU 的採購比例。
隨著 Trainium 與 Inferentia 效能提升且成本效益顯著，AWS 將優先在內部工作負載與價格敏感型客戶中推廣自研晶片。
AWS 將推出更多針對特定領域（如生物醫學或金融）的客製化晶片。
為了維持在雲端市場的差異化競爭力，亞馬遜正利用其晶片設計能力，針對特定垂直產業的運算需求進行硬體層面的優化。
⏳ 時間線
2018-11
AWS 發表首款自研 AI 推理晶片 Inferentia。
2020-12
AWS 發表首款自研 AI 訓練晶片 Trainium。
2022-11
AWS 發表第二代推理晶片 Inferentia2。
2023-11
AWS 發表第二代訓練晶片 Trainium2。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Register - AI/ML ↗