Search

Tag: #low-latency29 results

推出 Gemini Omni

Google 正式推出 Gemini Omni，這是一款專為即時、低延遲互動而設計的多模態模型。該模型透過提供無縫的跨模態處理，增強了 Gemini 生態系統的功能。

DeepMind BlogOfficial•May 17#multimodal #low-latency #real-time

Noiz AI 開源音頻生成大模型，4步出聲

Noiz AI 聯合香港科技大學與清華大學，開源了一款音頻生成大模型，實現了4步出聲，單卡推理延遲僅0.24秒。

量子位Media•Jun 15#audio-generation #low-latency #open-source

小米 MiMo UltraSpeed：突破每秒 1000 tokens 推理速度

小米與 TileRT 聯合發布 MiMo-V2.5-Pro 的 UltraSpeed 模式，在通用 GPU 上實現萬億參數模型每秒超過 1000 tokens 的生成速度。該服務目前透過限時 API 申請管道開放體驗。

IT之家Media•Jun 8#low-latency #gpu-computing

GPT-5.3 Instant 對壘 Gemini 3.1 Flash-Lite

OpenAI 推出 GPT-5.3 Instant，轻量模型降低幻覺率（聯網下 26.8%），語調更自然，寫作能力提升。Google 發布 Gemini 3.1 Flash-Lite，強調低成本（輸入 0.25 美元/百萬 tokens）、TTFT 快 2.5 倍，並支援思考等級調整。兩者針對如 OpenClaw 的高吞吐代理任務。

虎嗅Media•Mar 3#lightweight-models #low-latency #agentic-apps

Google 推出 Gemini 3.1 Flash-Lite，成本僅 Pro 的八分之一

Google 推出 Gemini 3.1 Flash-Lite，為 Gemini 3 系列中最具成本效益的模型，價格僅 Gemini 3.1 Pro 的八分之一。它比 Gemini 2.5 Flash 提供 2.5 倍更快的首 token 時間及 45% 更高的輸出速度（每秒 363 token）。新增思考等級功能，可動態調整推理強度以平衡速度與深度。

VentureBeatMedia•Mar 3#low-latency #cost-efficiency #multimodal

🎵