📚InfoQ中国•最新收集於 0m
Uber AI 軟體工廠：智能體請求增長 9.4 倍，Token 費用不變
#ai-agents#cost-optimization#token-usage#software-factoryuber-ai-software-factoryuber
💡了解 Uber 如何讓智能體流量增加 9.4 倍，卻不提高 Token 帳單。
⚡ 30-Second TL;DR
有什麼變化
Uber 的智能體請求量增加了 9.4 倍。
為什麼重要
這項成果顯示，智能體的採用不一定會帶來等比例的推理支出成長。Uber 的方法可為希望擴大內部智能體使用、同時維持 AI 預算可控的團隊提供參考。
下一步行動
在採用 Uber 的最佳化方法前，使用 OpenTelemetry 為智能體工作流程加上監控，追蹤請求量、輸入 Token、輸出 Token 與每項任務成本。
誰應關注：Developers & AI Engineers
關鍵要點
- •Uber 的智能體請求量增加了 9.4 倍。
- •儘管流量大幅成長，Uber 的 Token 帳單並未增加。
- •Uber 正公開其 AI 軟體工廠採用的節省成本方法。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 8 個來源。
🔑 增強重點摘要
- •Uber 在 2026 年 4 月曾面臨 AI 預算危機，當時因 AI 編碼工具的過度使用，導致年度預算在短短四個月內耗盡。
- •Uber 實施了自動化上下文壓縮機制，即使模型支援 100 萬 Token 的上下文窗口，系統仍會在達到 40 萬 Token 時強制進行壓縮以控制成本。
- •透過將 AI 推理努力程度（Reasoning Effort）預設為「中等」，Uber 有效降低了高昂的輸出 Token 與內部推理 Token 的費用。
- •截至 2026 年 3 月，Uber 內部已有 84% 的工程師（約 5,000 人）採用 AI 編碼代理，且 70% 的程式碼提交均由這些工具生成。
- •Uber 針對每位員工設定了 1,500 美元的 AI 編碼代理使用上限，並透過模型閘道器（Model Gateway）進行 PII 脫敏與統一存取管理。
📊 競品分析▸ Show
| 特性 | Uber (Agent Factory) | 一般企業級 AI 部署 | 關鍵差異 |
|---|---|---|---|
| 成本控制 | 預算上限與自動壓縮 | 依用量計費 | Uber 具備主動式預算防護 |
| 上下文管理 | 400k Token 強制壓縮 | 依模型上限而定 | Uber 針對成本進行效能平衡 |
| 推理優化 | 預設中等推理努力 | 預設最大化 | Uber 針對成本結構進行參數調優 |
| 基礎設施 | 整合 MCP 與 40M 條目知識圖譜 | 零散的 API 呼叫 | Uber 擁有高度整合的生態系統 |
🛠️ 技術深入
- 模型閘道器：具備 PII 脫敏功能，確保企業數據在 API 呼叫過程中的安全性。
- MCP 閘道器：採用模型上下文協定（Model Context Protocol）實現統一的工具存取介面。
- 知識圖譜：連結公司內部 4,000 萬個基礎設施條目，為智能體提供精確的上下文參考。
- 自動化維護：智能體負責程式碼審查、On-call 警報分類、除錯及 CI 失敗的自我修復。
- 成本控制邏輯：針對輸出 Token 與推理 Token 的高倍率計費結構，實施強制性的推理努力等級限制。
🔮 前景展望AI analysis grounded in cited sources
企業將從「提示工程」轉向「智能體工廠」架構。
Uber 的成功案例顯示，建立具備持續指令、驗證與維護迴圈的系統，比單純優化提示詞更能確保長期產出品質與成本效益。
AI 成本管理將成為軟體工程主管的核心 KPI。
隨著 AI 代理在開發流程中的佔比提升，如何平衡開發效率與 Token 消耗將直接影響企業的研發預算結構。
⏳ 時間線
2026-03
AI 編碼代理在 Uber 內部普及率達到 84%，產出 70% 的程式碼。
2026-04
Uber 遭遇 AI 預算危機，年度預算在四個月內耗盡，促使成本管理機制改革。
2026-08
Uber 公開其「軟體工廠」架構，證實透過技術手段成功穩定 AI 支出。
📎 來源 (8)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： InfoQ中国 ↗
每週 AI 簡報
每週一封，可隨時退訂。