🏠IT之家•最新收集於 2m
IBM 獲得 2.4 億美元 Together AI 算力合約
💡2.4 億美元 B300 部署可能改變開源模型推理容量與雲端選擇。
⚡ 30-Second TL;DR
有什麼變化
這項多年期合約總值 2.4 億美元。
為什麼重要
這項交易擴大了生產級開源模型推理的雲端容量，也顯示企業對高階 AI 基礎設施的需求持續成長。此叢集可讓 Together AI 更有能力處理大規模工作負載，並提升開源模型與封閉模型的競爭力。
下一步行動
將宣布中的 IBM Cloud HGX B300 容量納入 2027 年推理規劃，並比較其預期成本與延遲和現有 GPU 供應商的差異。
誰應關注：Enterprise & Security Teams
關鍵要點
- •這項多年期合約總值 2.4 億美元。
- •IBM Cloud 將託管一座專用於大規模推理的 NVIDIA HGX B300 叢集。
- •該部署結合 NVIDIA HGX B300 系統與 Spectrum-X Ethernet 技術。
- •Together AI 近期以 83 億美元估值完成 8 億美元 C 輪融資。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •此合作案標誌著 IBM Cloud 首次大規模部署 NVIDIA Blackwell 架構的 B300 GPU，旨在強化其在企業級 AI 推理市場的競爭力。
- •Together AI 將利用此基礎設施進一步優化其推理引擎，特別是針對長上下文（Long-context）與高吞吐量需求的開源模型部署。
- •該合約不僅涉及硬體租賃，還包含 IBM 與 NVIDIA 在軟體堆疊上的深度整合，特別是針對 Spectrum-X 乙太網路在 AI 叢集中的效能調優。
- •此舉被視為 IBM 試圖從單純的雲端服務供應商，轉型為專注於高效能 AI 推理與混合雲架構的關鍵策略轉折點。
- •Together AI 選擇 IBM Cloud 而非傳統的三大公有雲（AWS、Azure、GCP），反映了其在尋求更具成本效益且專注於開源生態的基礎設施合作夥伴。
📊 競品分析▸ Show
| 比較項目 | IBM Cloud + Together AI | AWS (Bedrock/EC2) | CoreWeave |
|---|---|---|---|
| 核心優勢 | 專用推理叢集、開源模型優化 | 生態系統完整、模型選擇多 | GPU 供應彈性、成本競爭力 |
| 推理架構 | NVIDIA HGX B300 + Spectrum-X | 自研 Trainium/Inferentia + H100 | H100/B200 隨選叢集 |
| 目標客群 | 企業級開源模型部署 | 全方位雲端 AI 應用 | AI 新創與大規模訓練需求 |
🛠️ 技術深入
- 採用 NVIDIA HGX B300 模組，該架構針對大規模語言模型推理進行了記憶體頻寬優化。
- 整合 NVIDIA Spectrum-X 乙太網路平台，利用其針對 AI 工作負載設計的擁塞控制與遙測技術，降低推理延遲。
- 支援 Together AI 的推理堆疊，該堆疊包含針對開源模型（如 Llama 3, Mixtral）進行的算子融合與量化技術。
- 基礎設施部署於 IBM Cloud 的專用區域，確保符合企業級資料隱私與合規性要求。
🔮 前景展望AI analysis grounded in cited sources
IBM 將顯著提升其在 AI 基礎設施市場的市佔率。
透過與 Together AI 的合作，IBM 成功建立了一個具備高度競爭力的開源模型推理平台，吸引了尋求替代方案的企業客戶。
NVIDIA Spectrum-X 乙太網路將成為 AI 資料中心的主流標準。
此大規模合約驗證了 Spectrum-X 在處理大規模推理叢集時的效能與穩定性，將推動更多雲端供應商採用此技術。
⏳ 時間線
2023-05
Together AI 完成由 Kleiner Perkins 領投的 A 輪融資，正式進入 AI 基礎設施市場。
2024-03
Together AI 宣布完成 1.06 億美元融資，估值達到 10 億美元以上。
2025-08
Together AI 完成 8 億美元 C 輪融資，估值攀升至 83 億美元。
2026-06
IBM 與 Together AI 正式簽署 2.4 億美元算力合約，啟動 NVIDIA B300 叢集規劃。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： IT之家 ↗