☁️AWS Machine Learning Blog•較早收集於 6m
Amazon SageMaker AI 支援 MLflow 3.10 加速生成式 AI 開發
💡SageMaker 上 MLflow 3.10：強化生成式 AI 專案追蹤 (22字)
⚡ 30-Second TL;DR
有什麼變化
SageMaker AI 整合 MLflow 3.10
為什麼重要
加速開發者生成式 AI 原型與生產部署。降低追蹤負擔，在 SageMaker 上實現更快迭代。
下一步行動
在 SageMaker Studio 啟用 MLflow 3.10 進行下個生成式 AI 實驗。
誰應關注：Developers & AI Engineers
關鍵要點
- •SageMaker AI 整合 MLflow 3.10
- •強化可觀測性與評估工具
- •簡化生成式 AI 實驗追蹤
- •建基於現有 MLflow Apps 基礎
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •MLflow 3.10 引入了針對大型語言模型（LLM）的專用追蹤 API，允許開發者直接記錄提示詞（Prompts）、模型輸出及相關的上下文元數據，從而優化生成式 AI 的迭代週期。
- •此次更新強化了與 SageMaker Model Registry 的原生整合，使得從 MLflow 實驗環境到生產環境的部署路徑更加自動化，減少了手動轉換模型格式的開銷。
- •SageMaker AI 透過託管式 MLflow 服務，現在支援更細粒度的權限控制（IAM 整合），確保企業在進行大規模生成式 AI 實驗時，能夠嚴格管理模型資產與實驗數據的存取權限。
📊 競品分析▸ Show
| 特性 | Amazon SageMaker AI (MLflow) | Azure Machine Learning (MLflow) | Google Vertex AI (MLflow) |
|---|---|---|---|
| 整合深度 | 與 AWS 生態系統（S3, IAM）深度整合 | 與 Azure DevOps 及 AD 整合 | 與 Google Cloud 基礎設施整合 |
| 定價模式 | 按使用量計費 (SageMaker 託管) | 按計算資源與工作區計費 | 按 Vertex AI 託管服務計費 |
| 生成式 AI 支援 | 內建 SageMaker JumpStart 連結 | 整合 Azure OpenAI Service | 整合 Gemini 與 Model Garden |
🛠️ 技術深入
- MLflow 3.10 追蹤 API 擴充：新增了
mlflow.llm模組，支援自動記錄 LangChain 與 LlamaIndex 的執行鏈（Chains）。 - 評估框架整合：支援 MLflow Evaluate API，可針對生成式 AI 模型進行自動化的 RAG（檢索增強生成）評估，包括忠實度（Faithfulness）與相關性指標。
- 架構部署：SageMaker AI 透過容器化方式託管 MLflow Tracking Server，支援將實驗數據持久化儲存於 Amazon S3，並使用 Amazon RDS 作為後端元數據儲存庫。
🔮 前景展望AI analysis grounded in cited sources
企業將加速生成式 AI 專案從實驗轉向生產的時程。
MLflow 3.10 與 SageMaker 生態系統的深度整合消除了模型版本管理與部署之間的手動斷層。
MLflow 將成為生成式 AI 開發的標準化中介層。
隨著雲端供應商紛紛強化對 MLflow 的託管支援，開發者將更傾向於使用此開源標準以避免供應商鎖定。
⏳ 時間線
2022-11
AWS 宣佈在 Amazon SageMaker 中正式支援託管式 MLflow。
2024-05
SageMaker AI 擴展對 MLflow 的支援，強化模型註冊與部署流程。
2026-05
Amazon SageMaker AI 正式支援 MLflow 3.10，強化生成式 AI 開發功能。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： AWS Machine Learning Blog ↗