Hugging Face 模型現可一鍵部署至 Amazon SageMaker

💡消除手動設定：透過一鍵部署將 Hugging Face 模型導入 SageMaker Studio，加速您的實驗流程。

⚡ 30-Second TL;DR

有什麼變化

Hugging Face 與 SageMaker Studio 之間的深度連結整合

為什麼重要

此整合大幅加速了使用開源模型團隊的開發生命週期。它消除了手動設定的障礙，讓開發者能在 AWS 基礎設施上更快速地進行原型設計與迭代。

下一步行動

前往 Hugging Face Hub 選擇一個模型，並點擊「Deploy to SageMaker」按鈕，親自測試這項全新的一鍵部署工作流程。

誰應關注：Developers & AI Engineers

AI-generated analysis for this event.

•此整合利用了 Hugging Face 的 Deep Learning Containers (DLCs)，讓開發者無需自行編寫基礎設施代碼即可部署模型。
•支援 Amazon SageMaker 的託管端點（Managed Endpoints），提供自動擴展（Auto-scaling）與高可用性部署能力。
•開發者可透過 SageMaker Python SDK 直接呼叫 Hugging Face Hub 上的模型，實現一鍵式訓練與推論部署。
•該整合不僅限於部署，還支援在 SageMaker 上進行分散式訓練（Distributed Training），利用 AWS 的運算資源加速大型語言模型微調。
•整合方案包含對 Hugging Face Transformers、Datasets 與 Tokenizers 函式庫的原生支援，確保開發環境與生產環境的一致性。

📊 競品分析▸ Show

特色	AWS SageMaker + Hugging Face	Google Vertex AI	Azure Machine Learning
模型庫整合	原生深度整合 Hugging Face Hub	透過 Model Garden 支援	透過 Azure AI Studio 支援
部署便利性	極高（一鍵部署）	高（整合 Vertex AI Model Registry）	中高（需透過 Managed Endpoints）
基礎設施	AWS 專屬運算資源	Google Cloud TPU/GPU	Azure GPU 叢集

採用 Hugging Face Deep Learning Containers (DLCs) 作為底層映像檔，預先安裝了 PyTorch、TensorFlow 與 Transformers 函式庫。
透過 SageMaker Inference Toolkit 處理模型載入與 HTTP 請求路由，簡化了自定義推論腳本的開發。
支援使用 Amazon Elastic Inference 或 GPU 執行個體（如 P4/P5 系列）進行推論加速。
整合了 SageMaker Experiments，自動追蹤模型訓練參數、指標與版本控制。

企業採用開源大型語言模型（LLM）的門檻將顯著降低。

透過簡化部署流程，企業能更快速地將 Hugging Face 上的開源模型轉化為生產環境中的 API 服務。

AWS 將進一步鞏固其作為開源 AI 模型首選雲端平台的地位。

深度整合 Hugging Face 減少了開發者在不同平台間切換的摩擦成本，增加了開發者對 AWS 生態系的黏著度。

2021-02

AWS 與 Hugging Face 宣布建立策略合作夥伴關係，首次在 SageMaker 上提供託管服務。

2021-09

AWS 推出 Hugging Face Deep Learning Containers (DLCs)，簡化部署流程。

2022-11

SageMaker 擴展支援，允許開發者直接從 Hugging Face Hub 部署模型至 SageMaker 推論端點。

2023-06

AWS 宣布 SageMaker JumpStart 整合 Hugging Face 模型，提供更廣泛的預訓練模型選擇。

AI 週報

閱讀本週精選 AI 大事摘要 →

同主題

探索 #cloud-deployment

同產品

更多關於 amazon-sagemaker-studio

同來源

最新來自 AWS Machine Learning Blog

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： AWS Machine Learning Blog ↗