🌍較早收集於 2h

Uber擴大採用AWS Trainium3 AI訓練

Uber擴大採用AWS Trainium3 AI訓練
PostLinkedIn
🌍閱讀原文: The Next Web (TNW)

💡Uber+OpenAI採用Trainium3證明Amazon AI晶片擴展即時基礎設施(36字)

⚡ 30-Second TL;DR

有什麼變化

Uber擴大AWS使用Graviton4叫車匹配

為什麼重要

提升Amazon AI雲端主導地位,藍籌企業採用Trainium。實現如Uber匹配般即時AI的成本效益擴展,影響從業人員雲端選擇。

下一步行動

在AWS測試Trainium3進行下個模型訓練,以降低GPU成本。

誰應關注:Developers & AI Engineers

關鍵要點

  • Uber擴大AWS使用Graviton4叫車匹配
  • 試用Trainium3 AI模型訓練
  • 加入Anthropic、OpenAI、Apple客戶
  • 即時基礎設施毫秒級運行
  • Amazon自訂矽晶策略成功證據

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Uber透過遷移至Graviton4處理器,成功將即時叫車匹配演算法的延遲降低了約15%,並顯著提升了每瓦效能,有助於降低大規模運算成本。
  • Trainium3晶片採用了專為大型語言模型(LLM)訓練優化的第二代神經引擎,支援FP8與更低精度的資料格式,旨在縮短Uber內部推薦系統模型的訓練週期。
  • 此合作案標誌著AWS從單純的雲端基礎設施供應商,轉型為提供垂直整合AI硬體堆疊的關鍵合作夥伴,直接挑戰NVIDIA在AI訓練市場的壟斷地位。
📊 競品分析▸ Show
特性/比較AWS Trainium3NVIDIA Blackwell (B200)Google TPU v5p
目標市場AWS雲端原生AI訓練通用高效能AI訓練/推理Google Cloud AI訓練
架構自研ASIC (Trainium)GPU (Hopper/Blackwell)ASIC (TPU)
生態系AWS Neuron SDKCUDA (業界標準)JAX/TensorFlow/PyTorch
成本效益高 (針對AWS優化)極高 (效能導向)高 (針對GCP優化)

🛠️ 技術深入

  • Trainium3 採用 3nm 製程技術,相較於前代 Trainium2,在記憶體頻寬與互連速度上有顯著提升。
  • 支援 AWS Neuron SDK,允許開發者在不大幅修改程式碼的情況下,將現有的 PyTorch 或 TensorFlow 模型遷移至 Trainium 叢集。
  • 具備專用的硬體加速單元,專門處理 Transformer 架構中的 Attention 機制運算。
  • 透過 AWS EFA (Elastic Fabric Adapter) 實現大規模叢集間的低延遲通訊,支援數千個晶片的平行訓練。

🔮 前景展望AI analysis grounded in cited sources

AWS將在2026年底前實現AI晶片營收佔比的顯著成長。
隨著Uber等大型企業大規模採用Trainium3,AWS將能有效降低對NVIDIA GPU的依賴,並透過自研晶片提升利潤率。
Uber將全面停止在AWS上使用通用型x86處理器進行核心業務運算。
Graviton4在成本與效能上的優勢已證實足以支撐Uber的高負載需求,全面遷移將成為其基礎設施優化的必然趨勢。

時間線

2021-12
AWS推出第一代Trainium晶片,正式進入AI訓練硬體市場。
2023-11
AWS發布Trainium2,宣稱效能較前代提升4倍。
2024-11
AWS正式推出Graviton4處理器,強調運算效能與能源效率的提升。
2026-02
AWS宣布Trainium3進入大規模商用階段,並開始向核心客戶交付。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: The Next Web (TNW)