Microsoft 公布智能體 LLM 路由方案
Microsoft 公布了一套面向 AI 智能體的 LLM 路由方案，聲稱最高可節省 85% 的成本。該方案的核心價值在於根據任務需求選擇或分配不同的語言模型，以最佳化推理支出。
Search
Tag: #cost-optimization135 results
Databricks 估值達 1880 億美元，轉向 AI 研究發展
Databricks 成功轉型為 AI 基礎設施領導者，估值達到 1880 億美元。該公司目前正積極發表關於開源權重模型在軟體開發中成本效益的研究。
JPMorgan Chase 在西雅圖建立 AI 控制層基礎設施
JPMorgan Chase 正在西雅圖建立一個專門的 AI 軟體基礎設施團隊。該計畫旨在管理內部資料中心與外部供應商之間的 AI 工作負載，同時優化成本並確保智慧財產權安全。
擴展 Speechify：利用 Next.js 和 Vercel 服務 6000 萬用戶
Speechify 將其基礎設施遷移至 Next.js 和 Vercel，以處理 6000 萬用戶的 50 萬個動態頁面。此舉成功降低了 50% 的成本，維持 99.99% 的正常運行時間，並實現了快速部署 AI 功能實驗的能力。
Meta 可能即將限制每位工程師的 AI Token 使用額度
Instagram 負責人 Adam Mosseri 表示，企業未來將需要像管理薪資或營運支出一樣，嚴格控管 AI Token 的消耗量。工程師未來可能面臨與基礎設施預算類似的嚴格使用限制。
GPT-5.6-sol 進入 DRACO 榜單，展現高成本效益
GPT-5.6-sol 模型正式進入 DRACO 評測榜單。該模型透過 OpenSquilla 整合方案，在 Brave 組別中展現了領先的品質與成本效益。
Microsoft 轉向使用自家模型以降低 AI 成本
Microsoft 正積極減少對外部 AI 供應商的依賴，轉而優先部署其自有的專有模型。此策略轉變是業界優化 AI 營運成本的廣泛趨勢之一。
訂閱結束後如何高效使用 Claude Fable 5
ITmedia AI+ 探討了在轉換為按量付費模式後，如何高效使用 Anthropic 的 Claude Fable 5 模型的實用策略。
Vercel Sandbox 推出更細緻的資源監控功能
Vercel 為其 Sandbox 環境推出了詳細的監控指標，讓使用者能追蹤 CPU、記憶體與數據傳輸的使用情況。此更新協助開發者將成本歸因於特定工作負載，並優化 Sandbox 配置。
免費 AI 時代終結：Token 計費已成定局
隨著企業轉向嚴格的 Token 計費模式，免費 AI 服務的時代即將結束。這標誌著 AI 普及性與商業永續性之間平衡點的重大轉變。