🕷️
SetupAI
☁️較早收集於 9m

使用 Amazon Bedrock AgentCore 建構企業級 AI 助理

使用 Amazon Bedrock AgentCore 建構企業級 AI 助理
PostLinkedIn
☁️閱讀原文： AWS Machine Learning Blog
#enterprise-ai#agentic-workflow#aws-architectureamazon-bedrock-agentcoreawsamazon-bedrocknarrateai

💡了解 AWS 如何透過分離批次處理與即時對話介面，來擴展企業級 AI 代理。

⚡ 30-Second TL;DR

有什麼變化

實作了將批次處理與即時使用者互動分離的雙層架構。

為什麼重要

此架構為希望彌合繁重資料處理與低延遲對話式 AI 介面之間差距的企業提供了藍圖。它展示了如何在跨複雜組織資料擴展 AI 代理的同時，維持系統的可靠性。

下一步行動

檢視 NarrateAI 的架構模式，評估您目前的 RAG 實作是否能透過分離批次處理的上下文與即時代理推理來獲得改善。

誰應關注：Developers & AI Engineers

關鍵要點

  • •實作了將批次處理與即時使用者互動分離的雙層架構。
  • •利用專業 AI 代理進行智慧路由與資料驗證任務。
  • •建立了大規模部署生產級對話式 AI 的工程模式。

🧠 深度解析

Web-grounded analysis with 31 cited sources.

🔑 增強重點摘要

  • •Amazon Bedrock AgentCore 是一個模組化且完全託管的平台，旨在安全地部署和操作高效能的 AI 代理，支援任何框架（如 LangChain、CrewAI）和基礎模型，提供高度的靈活性和安全性，讓開發者能專注於代理邏輯而非基礎設施管理。
  • •AgentCore 提供多項核心服務，包括 Runtime（用於代理執行和工具託管）、Gateway（用於工具整合和 API 轉換）、Memory（用於短期和長期記憶管理）、Identity（用於代理身份和存取管理）以及 Observability（用於監控和故障排除）。
  • •該平台透過提供會話隔離（每個用戶會話在獨立的微型虛擬機中運行，使用 AWS Firecracker 技術）和內建的身份管理與安全控制，確保企業級的安全性和資料隔離，這對於處理敏感資料的應用程式至關重要。
  • •AgentCore 支援長達八小時的長時間執行任務，並透過基於活動資源消耗的計費模式（而非預先分配的計算資源）來優化成本，僅對實際使用的 CPU 和記憶體收費，這有助於降低閒置時間的費用。
  • •最新功能包括 AgentCore Policy（透過自然語言規則設定代理行為邊界）和 AgentCore Evaluations（提供 13 個內建評估器以持續檢查代理品質），以及增強的記憶功能（如情節記憶），使代理能夠從經驗中學習並改進決策。
📊 競品分析▸ Show
功能/平台Amazon Bedrock AgentCoreGoogle Gemini Enterprise Agent PlatformMicrosoft Azure AI Agent Service / Foundry Agent ServiceAnthropic Claude Managed Agents
平台哲學/方法完全託管服務，提供基礎設施構建塊，配置而非編碼，強調企業級安全與擴展性。開源、框架無關的開發者體驗，優化 Gemini 但兼容任何模型，統一模型選擇、開發與部署。整合 Microsoft 生態系統，提供低代碼/無代碼工具（Copilot Studio），專注於企業級 AI 應用與自動化。託管 Claude 原生運行時，更接近管理代理工作者本身，簡化運行時複雜性。
模型/框架支援支援任何開源框架 (如 LangChain, CrewAI) 和 Bedrock 上的多供應商基礎模型 (Anthropic, Meta, Mistral AI, Amazon Titan 等)。支援 200 多種 AI 模型，包括 Google Gemini 系列和流行第三方模型，框架無關。支援 11,000 多種模型，與 Microsoft 365 生態系統深度整合。專為運行 Claude 基礎模型設計。
部署與擴展完全託管、無伺服器運行時，提供會話隔離 (微型虛擬機)，支援長達 8 小時的任務執行。Vertex AI Agent Builder 提供託管雲運行時，支援多模態代理工作流。透過 Microsoft Foundry Agent Service 實現安全、可擴展的代理部署，支援多代理工作流設計。託管運行時，會話可超越特定容器，即使執行失敗或容器終止，會話仍可存續。
安全與治理內建安全功能，支援 VPC、AWS PrivateLink、IAM 整合，提供 Guardrails、Policy 和 Evaluations 服務。統一治理，提供模型評估、安全過濾器和強大的安全控制。企業級安全，提供評估、安全過濾器和強大的安全控制，與 Microsoft 365 治理整合。託管運行時處理會話處理、執行流程、憑證管理和可觀察性。
定價模式模組化、按使用量計費，包括模型推理、運行時 (vCPU-小時、GB-小時)、Gateway API 呼叫、記憶體記錄等。基於 Vertex AI 計算和模型使用量的消耗型計費。消耗型計費，具體細節與 Azure 服務整合。模型使用量 + 按活躍會話小時計費。

🛠️ 技術深入

  • 模組化服務: Amazon Bedrock AgentCore 由多個核心服務組成，包括 Runtime、Gateway、Memory、Identity、Observability、Code Interpreter 和 Browser Tool。
  • AgentCore Runtime: 提供安全、無伺服器的執行環境，專為 AI 代理工作負載優化。每個用戶會話在專用的微型虛擬機 (microVM) 中運行，利用 AWS Firecracker 技術實現完整的會話隔離，防止資料洩漏。支援長達八小時的任務執行，並可處理非同步處理和長時間運行的代理。
  • AgentCore Gateway: 作為代理與外部工具和服務之間的橋樑，將現有的 API 和 AWS Lambda 函數轉換為標準化的、代理可用的工具，支援 Model Context Protocol (MCP)。提供雙向認證（如 JWT 入站、OAuth2 出站）以實現安全存取控制，並支援代理透過自然語言查詢發現工具。
  • AgentCore Memory: 提供複雜的短期記憶和長期記憶功能。短期記憶在單一用戶會話中儲存原始對話事件；長期記憶則透過語義提取將關鍵事實持久化，並支援多種記憶策略，包括語義記憶、用戶偏好記憶、摘要策略和情節記憶。
  • AgentCore Identity: 專為 AI 代理和自動化工作負載設計的身份和憑證管理服務。提供安全的身份驗證、授權和憑證管理功能，使代理和工具能夠代表用戶或自主存取 AWS 資源和第三方服務，支援標準化的 OAuth 2.0 流程和 API 金鑰。
  • AgentCore Observability: 透過與 Amazon CloudWatch 的整合，提供全面的可觀察性。包括即時儀表板、代理執行步驟的可視化、日誌和指標，用於監控代理性能、響應時間、資源消耗、錯誤模式和授權有效性。
  • AgentCore Policy: 允許組織使用自然語言規則為代理行為設定明確邊界，定義代理可以存取哪些工具和資料、可以執行哪些操作以及在何種條件下執行，並透過 Gateway 即時檢查代理操作。
  • AgentCore Evaluations: 提供 13 個內建評估器，用於評估代理品質，如正確性、實用性、工具選擇準確性、安全性、目標成功率和上下文相關性，並支援開發者編寫自訂評估器。
  • Agent-to-Agent (A2A) Protocol: AgentCore Runtime 支援 Agent-to-Agent (A2A) 協議，促進代理間的協作。
  • 框架和模型無關: 平台設計為框架無關和模型無關，支援 LangChain、LangGraph、LlamaIndex、CrewAI 和 Strands Agents 等開源框架，以及 Amazon Bedrock 上的多種基礎模型。

🔮 前景展望AI analysis grounded in cited sources

企業級 AI 代理的採用將加速，成為業務自動化的新標準。
隨著 Amazon Bedrock AgentCore 等平台簡化了代理的部署和管理，企業能夠更專注於業務邏輯而非基礎設施，從而加速 AI 代理在客戶服務、營運優化和資料分析等領域的應用。
AI 代理的治理和安全將成為平台發展的關鍵差異化因素。
隨著代理能夠自主執行更複雜的任務，對其行為設定邊界（如 AgentCore Policy）和確保資料隔離（如會話隔離）的需求將日益增加，促使平台投入更多資源於內建的安全和治理功能。
代理間協作和微交易支付將成為下一代 AI 代理平台的核心功能。
AgentCore Runtime 對 Agent-to-Agent (A2A) 協議的支援以及 AgentCore Payments 的推出，預示著未來 AI 代理將不僅獨立運作，還能安全地相互協作並自主執行微交易，開啟代理驅動商業的新模式。

⏳ 時間線

2023-04
Amazon Bedrock 宣布預覽版，提供對多個基礎模型的 API 存取。
2023-09
Amazon Bedrock 正式全面上市。
2025-07-16
Amazon Bedrock AgentCore 宣布預覽版。
2025-10-13
Amazon Bedrock AgentCore 正式全面上市，支援 VPC、PrivateLink、CloudFormation 等企業級功能。
2025-12-02
AgentCore Policy 和 Evaluations 宣布預覽版，Memory 增加情節記憶。
2026-05-26
Amazon Bedrock AgentCore Payments 宣布預覽版，支援 AI 代理自主執行微交易支付。
☁️閱讀原文： AWS Machine Learning Blog
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

同主題

探索 #enterprise-ai

同產品

更多關於 amazon-bedrock-agentcore

同來源

最新來自 AWS Machine Learning Blog

Claude Opus 5 以半價提供高效能表現

Claude Opus 5 以半價提供高效能表現

ZDNet AI•Jul 24
循環工程：AI 循環執行不等於解決問題

循環工程：AI 循環執行不等於解決問題

虎嗅•Jul 24
騰訊副總裁林松濤：意圖正在取代入口，Agent 需要一顆「小腦」

騰訊副總裁林松濤：意圖正在取代入口，Agent 需要一顆「小腦」

Ifanr (爱范儿)•Jul 24

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： AWS Machine Learning Blog ↗