Jumio 打造低於 100 毫秒的詐欺特徵庫
Jumio 在 AWS 上打造集中式即時特徵庫，用於詐欺偵測。此架構採用 Amazon SageMaker Feature Store、Amazon Managed Service for Apache Flink 與 Amazon Kinesis Data Streams，提供低於 100 毫秒的特徵服務速度，每年節省約 12 萬美元。
Search
Tag: #latency12 results
🤖
GPT-5.6 Sol 速度提升達 14 倍
OpenAI 正預覽 GPT-5.6 Sol 的全新 API 服務層級 Ultrafast。此服務由 Cerebras 提供支援，輸出速度最高可達每秒 750 個 token，速度提升最高達 14 倍。
AI 模型路由背後的隱藏複雜性
模型路由看似簡單，但在延遲、成本與準確度權衡上卻帶來了重大挑戰。本文分析了為何簡單的啟發式方法在生產環境中往往會失效。
SpaceX 因延遲問題將 Colossus 1 租給 Anthropic
SpaceX 在無法解決其 Grok AI 模型所需的延遲問題後，將其 Colossus 1 資料中心租給了 Anthropic。該位於 Memphis 的設施無法與 SpaceX 的其他資料中心園區進行有效整合。
利用 AWS 上的 SOCI 縮短容器冷啟動時間
本文介紹如何在 Deep Learning AMIs 和容器上實作 SOCI (Seekable OCI)，以顯著降低容器啟動延遲。文中並針對不同機器學習工作負載，提供選擇合適 SOCI 模式的實作建議。
語音模式革新辦公室AI編碼
Anthropic推出Claude Code語音模式，終端輸入/voice啟用免費轉錄。語音prompt更快（205詞/分 vs 鍵盤110），品質更高。全鏈路延遲達200ms，匹配人類對話節奏。
追蹤 Vercel Workflow 步驟之間的延遲
Vercel Workflows 現在允許開發者在 Trace Viewer 中測量任意兩個步驟之間的經過時間。此功能可突顯延遲啟動、佇列等待，以及個別步驟耗時無法解釋的時間間隔。
LG Display 研究：高刷新率顯示器提升 FPS 遊戲命中率
LG Display 的最新研究顯示，高刷新率顯示器能顯著提升 FPS 遊戲表現，使用 480Hz 顯示器的玩家命中率較 60Hz 提升了 38%。
F1 高效能模擬器中的延遲與擬真度
F1 車隊投入數百萬美元於模擬器，其中延遲、頻寬與擬真度對效能至關重要。達到毫秒級的精確度是取得競爭優勢的關鍵。
Qwen3.5 4B 過度思考簡單任務
使用者回報在 Ollama 上 Qwen3.5 4B 即使簡單查詢重寫也過度推理，導致代理 RAG 管道延遲過高。不啟用思考模式品質低於舊版 Qwen3 4B。社群尋求基準測試澄清。