☁️最新收集於 6m

無供應商鎖定地擴展代理式 AI

無供應商鎖定地擴展代理式 AI
PostLinkedIn
☁️閱讀原文: AWS Machine Learning Blog

💡了解如何跨模型、框架與供應商擴展企業級多代理系統。

⚡ 30-Second TL;DR

有什麼變化

針對企業大規模運作多個代理式 AI 系統的需求

為什麼重要

這些模式可協助企業 ML 團隊在更換模型、框架或供應商時,避免重新建置代理系統。這也促使平台團隊從一開始就以互通性為設計目標,而不是將可攜性視為日後才處理的遷移問題。

下一步行動

建立小型可攜性測試,讓同一個代理工作流程在兩家模型供應商上執行,並記錄框架、工具與可觀測性依賴。

誰應關注:Enterprise & Security Teams

關鍵要點

  • 針對企業大規模運作多個代理式 AI 系統的需求
  • 處理不同框架、模型與雲端供應商之間的互通性
  • 強調保留可攜性並降低對單一供應商依賴的架構原則

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 27 個來源。

🔑 增強重點摘要

  • AWS 的 Amazon Bedrock AgentCore 是部署和運行大規模 AI 代理的關鍵平台,原生支援多種開源框架和模型,確保企業在不同技術棧之間保持靈活性。
  • AWS 積極推動開放通訊協定,例如模型上下文協定 (MCP) 和代理對代理協定 (A2A),以促進 AI 代理與外部工具及其他代理之間的互通性,有效避免供應商鎖定。
  • 代理式 AI 系統的企業導入帶來了新的 IT 挑戰,包括算力配置(CPU 與 GPU 比例)的轉變、拆解式推論導致的管理複雜度增加,以及資料治理邊界模糊化等問題。
  • Amazon Bedrock AgentCore 提供「運行時實例」功能,為生產級 AI 代理提供持久化運算環境,支援代理長時間運行、GPU 加速,並允許在單一主機上進行多代理協作。
  • Amazon Bedrock 代理具備多項進階功能,包括短期與長期記憶保留、程式碼解讀能力,以及內建的防護機制 (Guardrails),以確保系統的安全性和可靠性。
📊 競品分析▸ Show
功能/供應商AWS (Amazon Bedrock AgentCore)Google Cloud (Gemini Enterprise Agent Platform)Microsoft Azure (Azure AI 應用程式和代理程式)
核心平台Amazon Bedrock AgentCoreGemini Enterprise Agent Platform, AgentspaceAzure AI 應用程式和代理程式, Azure SRE Agent
支援框架支援自訂及開源框架 (如 CrewAI, LangGraph, LlamaIndex, Google ADK, OpenAI Agents SDK, Strands Agents)Agent Development Kit (ADK), Agent Designer (無程式碼)整合 Foundry Agent Service
互通性協定支援 MCP (Model Context Protocol) 和 A2A (Agent-to-Agent Protocol)支援開放式 Agent2Agent (A2A) 協定-
記憶體管理提供短期與長期記憶保留--
程式碼執行內建 Code Interpreter 提供隔離環境--
部署與運行運行時實例提供持久化計算、GPU 支援、多代理協作-Agentic DevOps 解決方案
安全與治理內建 Guardrails, AgentCore Identity 管理認證企業知識圖譜, 安全多代理架構建置安全且負責任的 AI 應用程式

🛠️ 技術深入

  • Amazon Bedrock AgentCore: 作為託管代理框架,負責編排循環、工具執行、上下文視窗管理、跨回合狀態保留及故障恢復。它支援自訂框架和多種開源框架,如 CrewAI、LangGraph、LlamaIndex、Google ADK、OpenAI Agents SDK 和 Strands Agents。
  • 運行時實例 (Runtime Instances): 提供基於 AWS EC2 的持久化運算環境,允許在單一實例上部署多個代理,支援 GPU 加速,並可與 Amazon EBS 整合以實現長期記憶。這些實例可運行長達 14 天,並支援在閒置期間停止/重啟以節省成本。
  • AgentCore Gateway: 能夠將現有的 API 和 AWS Lambda 函數轉換為代理可用的工具,透過 MCP 等協定提供統一的存取和運行時發現能力。
  • AgentCore Identity: 負責管理出站認證,安全地儲存代理的 API 密鑰和 OAuth 令牌,並在需要時提供受控存取,簡化了跨工具和服務的認證流程。
  • AgentCore Browser: 提供託管的網頁瀏覽器實例,擴展代理的網頁自動化工作流程能力。
  • AgentCore Code Interpreter: 提供一個隔離的環境,用於安全地執行代理生成的程式碼,支援複雜的資料分析和數學問題解決。
  • 記憶體模組 (Memory Module): Amazon Bedrock AgentCore 的記憶體模組提供短期記憶(記錄最近的互動內容)和長期記憶(從對話中提取結構化關鍵資訊),以維護對話上下文並支援跨會話的知識保留。
  • 多代理協作架構: AWS 支援監督者架構,其中一個監督代理協調多個專業代理,透過 Amazon Step Functions 實現主管模式,利用 Amazon EventBridge 進行協調,並使用 Amazon MQ 進行訊息傳遞。

🔮 前景展望AI analysis grounded in cited sources

企業將加速採用多代理系統以實現端到端自動化。
代理式 AI 能夠自主規劃、推理和行動,並在分散的應用程式和數據源之間運行,將推動企業從單點任務自動化轉向全面的業務流程轉型。
雲端供應商將進一步標準化代理間通訊協定和互操作性框架。
為了避免供應商鎖定並促進多樣化 AI 生態系統的發展,主要雲端供應商將持續推動如 MCP 和 A2A 等開放標準,以實現跨平台和跨模型代理的無縫協作。
企業在部署代理式 AI 時,將更加重視資料治理和算力配置的優化。
代理式 AI 引入了資料治理邊界模糊化和算力配比變化的新挑戰,迫使企業必須重新評估其 IT 基礎設施和安全策略。

時間線

2023-12
Amazon Bedrock 代理正式發布,提供多步驟任務編排和推理追蹤功能。
2024-08
Amazon Bedrock 代理升級,支援跨多次互動的記憶保留和程式碼解讀功能。
2025-07
Amazon Bedrock AgentCore 預覽版推出,提供 Gateway、Browser、Code Interpreter 等組件,用於安全部署和運行 AI 代理。
2025-11
AWS 與 OpenAI 建立多年策略合作夥伴關係,OpenAI 模型在 Amazon Bedrock 上線。
2026-06
Amazon Bedrock AgentCore 中的託管代理框架全面推出,簡化代理構建和運行。
2026-08
Amazon Bedrock AgentCore 推出「運行時實例」,為生產級 AI 代理提供持久化計算環境,支援 GPU 和多代理協作。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: AWS Machine Learning Blog

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。