
用一個指令設定編碼代理
Vercel AI Gateway 現在讓開發者透過單一設定指令連接 Claude Code、Codex、OpenCode 及其他編碼代理。它能集中管理模型路由、API 憑證、可觀測性、預算、供應商控制與自動備援,並支援多種代理工具。
Tag: #model-routing43 results

Vercel AI Gateway 現在讓開發者透過單一設定指令連接 Claude Code、Codex、OpenCode 及其他編碼代理。它能集中管理模型路由、API 憑證、可觀測性、預算、供應商控制與自動備援,並支援多種代理工具。

來自 xAI 的 Grok 4.6 現已透過 Vercel AI Gateway 提供,支援 500K token 上下文視窗,以及文字和圖片輸入。開發者可選擇 low、medium、high 或 xhigh 推理等級,預設為 high,也能透過 AI SDK 或 coding agents 使用該模型。

NVIDIA NeMo Switchyard 用於在具備不同能力、成本與效能特性的模型之間路由 AI Agent 工作負載。它支援在分類與推理等步驟使用專門模型,並將例行後續任務交給較小的模型,避免所有請求都傳送給最大模型。

Nvidia 推出 300 億參數的開放式混合專家模型 Nemotron 3.5 Lightning,以及開源的 NeMo Switchyard 路由函式庫。Nvidia 表示,兩者搭配可維持接近前沿模型的任務完成率,同時將基準測試成本降至單獨運行 Opus 4.8 的約三分之一。

Hermes Agent 現在可使用 Vercel AI Gateway 作為推理層,並在隔離的 Vercel Sandbox microVM 中執行代理指令。開發者可存取超過 200 個模型,無需支付 token 加價,並在 AI Gateway 儀表板追蹤請求、用量與支出。
OpenAI 將更換 ChatGPT 的預設模型:Plus 與 Pro 用戶將使用 GPT-5.6 Sol,免費版與 ChatGPT Go 用戶則使用 GPT-5.6 Luna。Sol 提升事實準確度與回應速度,並可調整思考時間;Luna 則開放無限文字聊天並新增 Think 按鈕。

ACRouter 是一個新的開源框架,將模型路由視為動態且具備記憶能力的代理,而非靜態分類任務。透過 Context-Action-Feedback 循環,它能顯著降低成本並提升效能,優於靜態路由配置。

一項最新研究顯示,由於「共同失敗上限」(co-failure ceiling)的存在,結合多個 AI 模型往往無法達到預期的安全網效果。企業常浪費資源在複雜的路由架構上,卻無法獲得顯著的效能提升。

Vercel AI Gateway 現已支援路由規則,讓團隊無需更改應用程式代碼即可管理模型流量、執行重寫並封鎖特定模型。此功能可在閘道層級實現即時模型切換與流量控制。
Cognition 推出了名為「Devin Fusion」的多模型架構,旨在透過在不同 AI 模型間分配程式開發任務來進行優化。此方法在保持與頂尖模型相當的性能表現的同時,能將營運成本降低達 41%。