最新收集於 5h

Hermes Agent 獲得 Vercel AI Gateway 與 Sandbox 支援

Hermes Agent 獲得 Vercel AI Gateway 與 Sandbox 支援
PostLinkedIn
閱讀原文: Vercel News

💡讓 Hermes Agent 使用 200 多個模型,並兼具支出追蹤與隔離雲端執行環境。

⚡ 30-Second TL;DR

有什麼變化

Vercel AI Gateway 讓 Hermes Agent 可使用超過 200 個模型,且 token 不加價。

為什麼重要

這項整合為代理開發者提供更簡便的多模型推理、集中式成本可視性,以及更安全的遠端指令執行方式。對開發工作流程而言,這可能降低管理多個模型供應商與本機執行沙盒的營運負擔。

下一步行動

安裝 Hermes Agent,在設定精靈中選擇 Vercel AI Gateway,並先執行代表性工作負載,再啟用 Vercel Sandbox 後端。

誰應關注:Developers & AI Engineers

關鍵要點

  • Vercel AI Gateway 讓 Hermes Agent 可使用超過 200 個模型,且 token 不加價。
  • 每筆 AI Gateway 請求都會連同用量與支出資料顯示在儀表板中。
  • 明確啟用後,Vercel Sandbox 會在隔離的雲端 microVM 中執行代理指令,而非在本機執行。
  • Sandbox 支援 terminal、Node.js 24、Node.js 22 與 Python 3.13 執行環境。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Hermes Agent 的整合利用了 Vercel AI SDK 的底層架構,實現了從本地開發環境到雲端執行環境的無縫遷移。
  • Vercel Sandbox 採用了基於 Firecracker 的微虛擬機技術,確保代理程式在執行不受信任的程式碼時具有強大的隔離性與安全性。
  • AI Gateway 的快取機制(Caching)現在可直接應用於 Hermes Agent 的推理請求,顯著降低了重複查詢的延遲與成本。
  • 此整合支援自動化的錯誤重試機制(Retry Logic)與請求速率限制(Rate Limiting),增強了代理程式在生產環境中的穩定性。
  • 開發者現在可以透過 Vercel 的 OpenTelemetry 整合,對 Hermes Agent 的推理鏈與工具呼叫過程進行端到端的觀測與除錯。
📊 競品分析▸ Show
特性Vercel AI Gateway + HermesLangChain + LangGraph CloudAWS Bedrock Agents
執行環境Vercel Sandbox (microVM)LangGraph ServerAWS Lambda / ECS
模型存取200+ 模型 (統一介面)依賴整合商僅限 Bedrock 支援模型
定價模式Token 無加價依據平台訂閱費依據推理與儲存用量
部署複雜度極低 (Vercel 生態)中高

🛠️ 技術深入

  • 執行環境:Vercel Sandbox 透過輕量級 microVM 提供隔離,支援 Node.js 24/22 及 Python 3.13,並具備檔案系統快照功能。
  • 推理層:AI Gateway 作為中介層,提供統一的 API 格式,支援模型切換(Model Swapping)與自動負載平衡。
  • 安全性:所有在 Sandbox 內執行的代理指令均受到網路隔離與資源限制(CPU/Memory Quota),防止惡意程式碼存取主機環境。
  • 觀測性:整合 Vercel Toolbar 與 AI SDK 儀表板,提供即時的 Token 使用量統計、請求延遲分析及錯誤追蹤。

🔮 前景展望AI analysis grounded in cited sources

Vercel 將進一步整合向量資料庫以支援 Hermes Agent 的長期記憶功能。
目前的整合側重於執行與推理,長期記憶(Long-term Memory)是代理程式邁向自主化的下一個關鍵技術缺口。
AI Gateway 將推出針對企業級用戶的私有模型部署支援。
隨著企業對資料隱私的要求提高,僅依賴公有雲模型 API 將無法滿足所有合規需求。

時間線

2024-05
Vercel 正式推出 AI SDK 3.0,強化對生成式 AI 應用的支援。
2024-10
Vercel AI Gateway 進入公開測試階段,提供統一的 AI 推理 API 介面。
2025-03
Hermes Agent 作為開源代理框架發布,強調與現代 Web 技術棧的整合。
2026-08
Hermes Agent 正式獲得 Vercel AI Gateway 與 Sandbox 的原生支援。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Vercel News