🌍The Next Web (TNW)•最新收集於 25m
IBM 投資 2.4 億美元押注開放式推理
💡IBM 斥資 2.4 億美元，可能改變正式環境 AI 推理的成本計算方式。
⚡ 30-Second TL;DR
有什麼變化
IBM 與 Together AI 的多年合作協議價值 2.4 億美元。
為什麼重要
這項合作可能加劇高量、低成本 AI 推理市場的競爭。對 AI 團隊而言，選擇雲端供應商時，基礎設施價格與服務效率可能會與模型品質同等重要。
下一步行動
選一項正式環境工作負載，在 IBM Cloud 的 Blackwell 推理架構上進行基準測試，並比較每百萬 token 成本、延遲與吞吐量。
誰應關注：Developers & AI Engineers
關鍵要點
- •IBM 與 Together AI 的多年合作協議價值 2.4 億美元。
- •Nvidia Blackwell 系統將部署於 IBM Cloud。
- •IBM 押注企業將更重視推理成本，而非執行模型的品牌聲望。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •此項合作旨在透過 Together AI 的推理優化技術，將 IBM Cloud 轉型為專注於高效能 AI 推理的基礎設施平台。
- •IBM 計劃整合其 watsonx.ai 平台與 Together AI 的開源模型堆疊，以支援企業在混合雲環境中部署客製化模型。
- •Nvidia Blackwell 系統的導入將結合 IBM 的 VPC（虛擬私有雲）架構，強調企業級的安全合規性與資料隱私保護。
- •該投資協議不僅限於硬體採購，還包含共同開發針對特定產業（如金融與醫療）的推理加速解決方案。
- •此舉反映了 IBM 策略的轉向，從過去強調自有模型研發，轉向成為開源 AI 生態系統的關鍵基礎設施供應商。
📊 競品分析▸ Show
| 特色/競爭對手 | IBM Cloud + Together AI | AWS (Bedrock) | Google Cloud (Vertex AI) |
|---|---|---|---|
| 核心優勢 | 開源模型推理成本優化 | 生態系統整合度最高 | TPU 硬體與 Gemini 整合 |
| 定價策略 | 針對推理負載的彈性定價 | 按使用量計費 (Pay-as-you-go) | 階梯式與預留實例定價 |
| 硬體支援 | Nvidia Blackwell (專注) | 多樣化 (Trainium/Inferentia) | 自研 TPU 與 Nvidia GPU |
🛠️ 技術深入
- 採用 Nvidia Blackwell 架構，利用第二代 Transformer 引擎加速 FP4 精確度運算，顯著降低推理延遲。
- 整合 Together AI 的推理引擎，支援 FlashAttention-3 等優化技術，提升長文本處理效率。
- 透過 IBM Cloud 的衛星架構 (Satellite) 實現邊緣推理，允許企業在本地資料中心運行 Blackwell 加速的開源模型。
- 支援多租戶隔離技術，確保在共享 GPU 資源時，企業模型的權重與推論數據具備硬體級別的安全性。
🔮 前景展望AI analysis grounded in cited sources
IBM 將在 2027 年前成為企業開源推理市場的前三大雲端供應商。
透過 Blackwell 的硬體優勢與 Together AI 的軟體堆疊，IBM 能有效降低企業部署開源模型的總體擁有成本 (TCO)。
企業對閉源模型（如 GPT-4）的依賴度將在未來 18 個月內下降。
隨著推理成本的降低與開源模型效能的追趕，企業將更傾向於選擇可控性更高、成本更低的開源解決方案。
⏳ 時間線
2023-05
IBM 發布 watsonx 平台，正式進軍企業級 AI 市場。
2024-03
IBM 宣布擴大與開源 AI 社群的合作，並將更多開源模型納入 watsonx.ai。
2025-06
IBM 與 Together AI 達成初步技術整合協議，開始測試開源模型在 IBM Cloud 上的推理效能。
2026-08
IBM 正式宣布 2.4 億美元投資案，將 Nvidia Blackwell 系統大規模導入 IBM Cloud。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Next Web (TNW) ↗