💰TechCrunch AI•最新收集於 2m
Microsoft 轉向使用自家模型以降低 AI 成本
💡了解 Microsoft 轉向內部模型如何影響您的 AI 基礎設施與成本優化策略。
⚡ 30-Second TL;DR
有什麼變化
Microsoft 正在削減外部 AI 支出以提升利潤率。
為什麼重要
此舉預示著 AI 供應鏈的潛在轉變，大型雲端服務供應商對第三方模型實驗室的依賴可能會降低。這凸顯了模型效率與垂直整合對於企業級 AI 的重要性日益增加。
下一步行動
評估您目前對第三方模型 API 的依賴程度，並評估較小、經過蒸餾或自有的模型是否能以更低的成本滿足您的效能需求。
誰應關注：Enterprise & Security Teams
關鍵要點
- •Microsoft 正在削減外部 AI 支出以提升利潤率。
- •公司正日益優先考慮其內部的模型架構。
- •這反映了業界轉向具成本效益的 AI 基礎設施管理的廣泛趨勢。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Microsoft 透過 Azure AI 模型目錄（Model Catalog）整合了 Phi 系列小型語言模型（SLM），旨在為特定任務提供比 GPT-4 更具成本效益的替代方案。
- •公司內部推動『模型蒸餾』（Model Distillation）技術，利用大型模型（如 GPT-4o）的輸出訓練較小的專有模型，以在維持效能的同時大幅降低推論成本。
- •Microsoft 正在優化其專屬的 Maia AI 加速器晶片架構，以更高效地運行內部模型，減少對 NVIDIA GPU 的依賴。
- •此策略轉變與 Microsoft 財報中顯示的資本支出（CapEx）壓力有關，公司需透過提升 AI 基礎設施的利用率來平衡高昂的數據中心營運成本。
- •Microsoft 透過整合 ONNX Runtime 與其內部模型，優化了跨硬體平台的推論效能，進一步降低了大規模部署時的延遲與能源消耗。
📊 競品分析▸ Show
| 特性 | Microsoft (Phi/Maia) | Google (Gemini/TPU) | AWS (Bedrock/Trainium) |
|---|---|---|---|
| 核心策略 | 專注於 SLM 與垂直整合 | 專注於多模態與 TPU 生態 | 專注於模型選擇與基礎設施彈性 |
| 定價模式 | 基於 Azure 資源使用量 | 基於 Token 與 TPU 使用量 | 基於模型 API 調用與執行個體 |
| 效能基準 | 在邊緣運算與特定任務具優勢 | 在長文本與多模態處理領先 | 提供多樣化模型選擇與混合部署 |
🛠️ 技術深入
- 模型架構：採用 Phi 系列模型，利用高品質合成數據進行訓練，強調在較少參數下實現高推理能力。
- 硬體加速：部署 Microsoft 自研的 Maia 100 加速器，針對 Transformer 模型進行算子層級的優化。
- 推論優化：廣泛使用模型量化（Quantization）技術，將模型精度從 FP16 降至 INT8 或更低，以提升吞吐量。
- 基礎設施：透過 Azure AI 基礎設施的垂直整合，實現模型訓練與推論的資源動態排程。
🔮 前景展望AI analysis grounded in cited sources
Microsoft 將在 2027 年前將其內部 AI 工作負載的 40% 以上轉移至自研晶片。
隨著 Maia 晶片產能擴大及軟體堆疊成熟，降低對外部供應商的依賴將成為提升毛利率的核心手段。
小型語言模型（SLM）將成為 Microsoft Azure AI 服務的主流產品。
企業客戶對成本敏感度提高，且 SLM 在特定領域的表現已足以滿足大多數商業應用需求。
⏳ 時間線
2023-06
Microsoft 發布 Phi-1 模型，標誌著其在小型語言模型領域的初步探索。
2023-11
Microsoft 於 Ignite 大會正式發表自研 AI 加速器晶片 Maia 100。
2024-04
發布 Phi-3 系列模型，展示了在極小參數下達到與大型模型競爭的效能。
2025-05
Microsoft 宣布擴大內部模型部署規模，以應對雲端運算成本上升的挑戰。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： TechCrunch AI ↗