▲Vercel News•近期收集於 18h
Factory 將 AI 後端擴展至每日數千萬次請求
💡了解 Factory 如何在沒有專職基礎架構團隊的情況下，支撐 AI agent 後端每日數千萬次請求。
⚡ 30-Second TL;DR
有什麼變化
單一 Vercel 後端透過 API 路由、中介軟體與 Webhook 處理每日數千萬次請求。
為什麼重要
這個案例顯示，AI agent 平台可以將客戶 API 與內部自動化集中在現代 Web 平台上，而不必建置分離的基礎架構。對精實的 AI 新創而言，這可能降低營運負擔，但團隊仍需評估函式限制、安全控制與工作負載隔離。
下一步行動
使用 Next.js API 路由、Fluid compute 與 WAF 在 Vercel 上建立 AI 服務原型，並在正式上線前對記憶體與函式執行時間限制進行負載測試。
誰應關注：Developers & AI Engineers
關鍵要點
- •單一 Vercel 後端透過 API 路由、中介軟體與 Webhook 處理每日數千萬次請求。
- •Factory 表示 p95 回應時間維持在 350 毫秒以下，Vercel Fluid compute 透過讓函式保持溫熱來支援效能。
- •內部團隊使用 Droids 建立分析儀表板、客製化客戶示範與自訂工具，減少對工程團隊的依賴。
- •隨著自助服務模式擴張，Observability 與 WAF 在網路層保護後端。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Factory 專注於開發自主 AI 代理（Autonomous AI Agents），其後端架構需處理高頻率的 LLM 互動與複雜的狀態管理。
- •Vercel 的 Fluid Compute 功能透過優化冷啟動（Cold Start）與執行環境的持續性，直接解決了 AI 應用在無伺服器架構中常見的延遲問題。
- •Factory 內部使用的 Droids 系統本質上是一個低代碼（Low-code）內部工具平台，旨在將數據分析與操作權限下放給非工程人員。
- •該架構利用 Vercel 的邊緣網路（Edge Network）進行 WAF 防護，有效過濾了針對 AI API 的惡意爬蟲與潛在的 Prompt Injection 攻擊。
- •Factory 的技術堆疊整合了 Vercel 的可觀測性工具（Observability），使其能夠即時監控 AI 代理的執行路徑與 Token 使用成本。
📊 競品分析▸ Show
| 特性 | Vercel (Factory 案例) | AWS Lambda | Cloudflare Workers |
|---|---|---|---|
| 主要優勢 | 前端與後端整合開發體驗 | 極致的擴展性與生態系 | 全球邊緣運算延遲最低 |
| 冷啟動處理 | Fluid Compute (溫熱機制) | Provisioned Concurrency (需付費) | 預設極快 (Isolate 架構) |
| AI 整合 | 針對 AI 應用優化部署 | 需自行配置容器與環境 | 針對 AI 推論優化 (Workers AI) |
| 定價模式 | 基於請求與運算時間 | 基於請求與執行時間 | 基於請求與 CPU 時間 |
🛠️ 技術深入
- 採用 Next.js App Router 作為核心框架，實現 API 路由與前端邏輯的同構化（Isomorphic）。
- 利用 Vercel Middleware 在請求進入應用程式前進行身份驗證與速率限制（Rate Limiting）。
- 透過 Vercel 的 Webhook 整合機制，實現與外部 AI 模型供應商（如 OpenAI, Anthropic）的非同步事件驅動架構。
- 實作了基於 Vercel Edge Config 的動態配置管理，允許在不重新部署的情況下調整 AI 代理的行為參數。
🔮 前景展望AI analysis grounded in cited sources
無伺服器架構將成為 AI 代理後端的標準配置
隨著 Fluid Compute 等技術成熟，開發者無需維護複雜的 Kubernetes 叢集即可處理大規模 AI 推論請求。
內部工具平台（Internal Tooling）將與 AI 代理深度整合
Factory 的 Droids 模式證明了將 AI 代理能力賦予內部業務人員，能顯著降低對核心工程團隊的依賴。
⏳ 時間線
2023-05
Factory 正式成立，專注於構建自主 AI 軟體工程代理。
2024-02
Factory 宣布完成種子輪融資，開始擴大其 AI 代理的應用場景。
2025-09
Factory 遷移至 Vercel 平台，開始重構其後端以支援大規模 API 請求。
2026-06
Factory 達成每日處理數千萬次請求的里程碑，並公開其無伺服器架構效能數據。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Vercel News ↗