
在 AI Gateway 上建構即時語音代理
Vercel AI Gateway 現在支援來自 OpenAI 和 xAI 的即時音訊、語音轉文字與文字轉語音模型。新的 'useRealtime' Hook 簡化了低延遲語音互動的 WebSocket 管理。
Tag: #voice-agents23 results

Vercel AI Gateway 現在支援來自 OpenAI 和 xAI 的即時音訊、語音轉文字與文字轉語音模型。新的 'useRealtime' Hook 簡化了低延遲語音互動的 WebSocket 管理。

OpenAI 推出三款新語音模型:具 GPT-5 等級推理的 GPT-Realtime-2 可處理自然對話、GPT-Realtime-Translate 支援 70 多種語言即時翻譯至 13 種,以及用於轉錄的 GPT-Realtime-Whisper。這些模型作為獨立協調元件,將推理、翻譯和轉錄分離,降低語音代理部署的開銷。企業可將任務路由至專用模型,並支援 128K 權杖上下文視窗。

NVIDIA 在 GTC 2026 推出新一代 Nemotron 3 模型,用於代理式 AI 生態系統。這些代理專精於規劃、推理、多模態 RAG、語音互動,以及跨語言與模態的安全防護。它們能處理真實世界多模態資料並實現自然全球對話。

文章指出,語音代理標示的每分鐘價格並不能反映完整的生產成本。更實際的計算必須納入語音辨識、文字轉語音、模型用量、電信服務與基礎設施等支出。

Hugging Face 文章介紹 NVIDIA Magpie TTS,協助開發者建構低延遲的多語言語音代理。其開放權重與部署控制能力,適合需要自行客製化及運行文字轉語音系統的實務團隊。

OpenAI 重構 GPT-Live,使音訊影格的 p95 延遲降至舊系統 p50 的水準,主要改善那些會破壞語音體驗的偶發慢速影格。系統將低延遲媒體處理與深度推理、搜尋、工具呼叫及資料儲存分離,避免背景工作阻塞音訊。
四位企業 AI 創業者分享 Agent 如何進入財務、客服、搜尋、行銷與支付等場景。他們認為,企業採用的關鍵不在於單點任務完成,而在於能否可靠地執行完整端到端流程。

OpenAI 為開發者推出三款先進即時音頻模型。這些模型支援即時語音代理、即時翻譯及串流轉錄。可透過 OpenAI API 存取。

Deepgram 的生產級語音轉文字 (STT) 和文字轉語音 (TTS) 模型現已原生可用於 Together AI。此整合可透過 Dedicated Model Inference 存取,用於建置即時語音代理。

Google 已透過 Gemini API 和 Google AI Studio 推出 Gemini 3.1 Flash Live。它支援即時語音和視覺代理程式,並降低延遲。該模型可在 90 多種語言中隔離語音。