來源Vercel News•較早收集於 18h
Factory 將 AI 後端擴展至每日數千萬次請求
#serverless-scaling#ai-agents#backend-architecturefactory-on-vercelfactoryvercelnext.jsdroids
了解 Factory 如何在沒有專職基礎架構團隊的情況下，支撐 AI agent 後端每日數千萬次請求。
30 秒速覽
有什麼變化
單一 Vercel 後端透過 API 路由、中介軟體與 Webhook 處理每日數千萬次請求。
為什麼重要
這個案例顯示，AI agent 平台可以將客戶 API 與內部自動化集中在現代 Web 平台上，而不必建置分離的基礎架構。對精實的 AI 新創而言，這可能降低營運負擔，但團隊仍需評估函式限制、安全控制與工作負載隔離。
下一步行動
使用 Next.js API 路由、Fluid compute 與 WAF 在 Vercel 上建立 AI 服務原型，並在正式上線前對記憶體與函式執行時間限制進行負載測試。
誰應關注：Developers & AI Engineers
關鍵要點
- •單一 Vercel 後端透過 API 路由、中介軟體與 Webhook 處理每日數千萬次請求。
- •Factory 表示 p95 回應時間維持在 350 毫秒以下，Vercel Fluid compute 透過讓函式保持溫熱來支援效能。
- •內部團隊使用 Droids 建立分析儀表板、客製化客戶示範與自訂工具，減少對工程團隊的依賴。
- •隨著自助服務模式擴張，Observability 與 WAF 在網路層保護後端。
深度解析
本篇為 AI 生成分析，非原文內容。
增強重點摘要
- •Factory 專注於開發自主 AI 代理（Autonomous AI Agents），其後端架構需處理高頻率的 LLM 互動與複雜的狀態管理。
- •Vercel 的 Fluid Compute 功能透過優化冷啟動（Cold Start）與執行環境的持續性，直接解決了 AI 應用在無伺服器架構中常見的延遲問題。
- •Factory 內部使用的 Droids 系統本質上是一個低代碼（Low-code）內部工具平台，旨在將數據分析與操作權限下放給非工程人員。
- •該架構利用 Vercel 的邊緣網路（Edge Network）進行 WAF 防護，有效過濾了針對 AI API 的惡意爬蟲與潛在的 Prompt Injection 攻擊。
- •Factory 的技術堆疊整合了 Vercel 的可觀測性工具（Observability），使其能夠即時監控 AI 代理的執行路徑與 Token 使用成本。
競品分析
主要優勢
- Vercel (Factory 案例)
- 前端與後端整合開發體驗
- AWS Lambda
- 極致的擴展性與生態系
- Cloudflare Workers
- 全球邊緣運算延遲最低
冷啟動處理
- Vercel (Factory 案例)
- Fluid Compute (溫熱機制)
- AWS Lambda
- Provisioned Concurrency (需付費)
- Cloudflare Workers
- 預設極快 (Isolate 架構)
AI 整合
- Vercel (Factory 案例)
- 針對 AI 應用優化部署
- AWS Lambda
- 需自行配置容器與環境
- Cloudflare Workers
- 針對 AI 推論優化 (Workers AI)
定價模式
- Vercel (Factory 案例)
- 基於請求與運算時間
- AWS Lambda
- 基於請求與執行時間
- Cloudflare Workers
- 基於請求與 CPU 時間
| 特性 | Vercel (Factory 案例) | AWS Lambda | Cloudflare Workers |
|---|---|---|---|
| 主要優勢 | 前端與後端整合開發體驗 | 極致的擴展性與生態系 | 全球邊緣運算延遲最低 |
| 冷啟動處理 | Fluid Compute (溫熱機制) | Provisioned Concurrency (需付費) | 預設極快 (Isolate 架構) |
| AI 整合 | 針對 AI 應用優化部署 | 需自行配置容器與環境 | 針對 AI 推論優化 (Workers AI) |
| 定價模式 | 基於請求與運算時間 | 基於請求與執行時間 | 基於請求與 CPU 時間 |
技術深入
- 採用 Next.js App Router 作為核心框架，實現 API 路由與前端邏輯的同構化（Isomorphic）。
- 利用 Vercel Middleware 在請求進入應用程式前進行身份驗證與速率限制（Rate Limiting）。
- 透過 Vercel 的 Webhook 整合機制，實現與外部 AI 模型供應商（如 OpenAI, Anthropic）的非同步事件驅動架構。
- 實作了基於 Vercel Edge Config 的動態配置管理，允許在不重新部署的情況下調整 AI 代理的行為參數。
前景展望基於引用來源的 AI 分析
無伺服器架構將成為 AI 代理後端的標準配置
隨著 Fluid Compute 等技術成熟，開發者無需維護複雜的 Kubernetes 叢集即可處理大規模 AI 推論請求。
內部工具平台（Internal Tooling）將與 AI 代理深度整合
Factory 的 Droids 模式證明了將 AI 代理能力賦予內部業務人員，能顯著降低對核心工程團隊的依賴。
時間線
2023-05
Factory 正式成立，專注於構建自主 AI 軟體工程代理。
2024-02
Factory 宣布完成種子輪融資，開始擴大其 AI 代理的應用場景。
2025-09
Factory 遷移至 Vercel 平台，開始重構其後端以支援大規模 API 請求。
2026-06
Factory 達成每日處理數千萬次請求的里程碑，並公開其無伺服器架構效能數據。
- 2023-05Factory 正式成立，專注於構建自主 AI 軟體工程代理。
- 2024-02Factory 宣布完成種子輪融資，開始擴大其 AI 代理的應用場景。
- 2025-09Factory 遷移至 Vercel 平台，開始重構其後端以支援大規模 API 請求。
- 2026-06Factory 達成每日處理數千萬次請求的里程碑，並公開其無伺服器架構效能數據。
AI 週報
閱讀本週精選 AI 大事摘要 →
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Vercel News ↗
每週電子報
每週一封，可隨時退訂。