Ask Maps 上線暴露 Google Maps 可靠性風險
據報 Google Maps 酒店搜尋在全球範圍內發生故障，而 AI 助手 Ask Maps 上線僅 11 天。這起事件凸顯將 AI 助手整合至高流量消費服務時，可能面臨的可靠性與營運風險。
Search
Tag: #ai-reliability28 results
📰
重新思考AI可靠性：超越零錯誤的迷思
本文指出要求AI零錯誤是阻礙落地的迷思。開發者應專注於構建具備錯誤處理機制、並結合人工覆核的穩健系統。
Amazon AGI 總監：可靠性而非能力是 AI 採用的主要障礙
Amazon AGI 總監 Bryan Silverthorn 指出，企業 AI 試點與生產環境之間的落差源於可靠性不足，而非模型能力問題。他提出了一套包含一致性、穩健性、可預測性和安全性四個維度的框架，以更好地管理自主 AI 代理。
企業高估多模型架構可靠性達 2.25 倍
一項最新研究顯示，由於「共同失敗上限」（co-failure ceiling）的存在，結合多個 AI 模型往往無法達到預期的安全網效果。企業常浪費資源在複雜的路由架構上，卻無法獲得顯著的效能提升。
Google 引入「忠實不確定性」技術以減少 LLM 幻覺
Google 研究人員引入了「忠實不確定性」（faithful uncertainty），這是一種後設認知技術，允許 LLM 表達信心程度，而非僅限於二元回答。此方法旨在解決「效用稅」（utility tax）問題，即模型為了避免幻覺而犧牲大量有效資訊。
英國警方禁止使用AI草擬法庭陳述
英格蘭與威爾斯的警隊已被要求停止使用AI工具來草擬法庭陳述與刑事司法文件。此舉源於對AI輸出內容可靠性的擔憂，以及其對後續法律程序可能造成的風險。
⚙️
理解 AI 開發中的 Harness Engineering
Harness Engineering 指的是圍繞 AI 模型構建強大的控制系統、規則和反饋迴路，以確保一致且可靠的性能。它將重點從修復單個錯誤轉移到創建永久的、基於環境的解決方案，從而防止重複出現錯誤。
根據任務後果而非難度優化推理運算資源分配
研究人員提出了一種新的測試時運算資源分配方法，該方法根據失敗的潛在成本而非僅僅是預測難度來優先處理任務。這種方法通過將運算資源動態分配給高風險操作，顯著降低了軟體工程任務中的成本加權損失。
安大略省審計發現 AI 醫療記錄工具存在嚴重錯誤
安大略省的一項審計顯示，60% 的 AI 醫療記錄系統在患者筆記中頻繁錯誤識別處方藥物。這些發現凸顯了在關鍵臨床環境中部署 AI 工具所面臨的嚴重可靠性問題。
Google AI 每小時散播5700萬錯誤
湖南台 AI 主播引發熱議，但 Google AI Overviews 每小時產生超過 5700 萬條錯誤答案，準確率僅 91%。測試顯示幻覺問題，如錯誤事實及社群媒體未驗證來源。即使正確答案也常缺乏可驗證依據。