💼
企業 AI 需要可靠的安全下限
文章指出，企業重視的不是 AI 的能力峰值，而是系統可靠的能力下限。AI 要進入生產環境，關鍵在於行為一致、權限受控、可追溯，以及在證據不足或工具異常時能安全失效。
Search
Tag: #ai-reliability28 results
當前 AI 模型的脆弱時代
本文討論了在下一代模型發布之前，當前 AI 模型固有的脆弱性。文章指出，目前的系統缺乏關鍵任務應用所需的穩健性。
Microsoft Copilot：僅供娛樂，不可靠
Microsoft Copilot 的使用條款明確規定僅供娛樂用途，並可能產生錯誤。最近對這些條款的興趣激增，強調像 Copilot 這樣的 AI 助手僅適合娛樂，而非關鍵任務。這提醒了 AI 在可靠性上的現有限制。
初創重金聘AI霸凌者每日800美元
名為 Memvid 的初創公司發布爭議招聘廣告，公開招募「專業 AI 霸凌者」，全天折磨主流聊天機器人，薪酬高達每日 800 美元。目的是暴露 AI 聊天機器人的不可靠記憶。外界討論這是嚴肅技術測試還是行銷噱頭。
Fortune研究：AI搜尋引擎錯60%以上
Fortune雜誌研究顯示，AI搜尋引擎有信心地錯超過60%的時間。廣泛使用的AI工具展現高錯誤率，延伸至標題生成，出現連續長句、聽錯片語及難懂文字串。此影響無障礙應用。
Meta AI 向 DoJ 發送大量無用兒童性虐提示
Meta 的 AI 審核軟體產生大量低品質兒童性虐報告，壓垮美國 ICAC 調查員。新墨西哥州對 Meta 提告，指其利潤優先於兒童安全，導致資源浪費。Meta 以青少年帳戶保護為由辯護。
AWS AI工具引發服務中斷
亞馬遜AWS因自家開發的AI編碼工具至少兩次發生服務中斷。去年12月中旬，一套客戶服務成本分析系統中斷長達13小時。員工因此質疑大力推廣這些工具的策略。
📰
維基百科創辦人不擔心Grokipedia威脅
維基百科創辦人Jimmy Wales認為Elon Musk的AI驅動Grokipedia對百科無威脅。他歸因於AI生成內容錯誤率高。此事突顯AI知識工具的可靠性問題。