LLM幻覺的幾何分類法
研究人員提出LLM幻覺的幾何分類法，將其分為三類：不忠實（忽略上下文）、捏造（發明語義外內容）和事實錯誤（正確框架內錯誤）。基準測試幻覺具領域本地檢測力（AUROC 0.76-0.99），跨領域僅隨機水平；人類捏造則可用單一全球方向達0.96 AUROC。事實錯誤因嵌入僅編碼共現而無法檢測。
Search
Tag: #hallucinations35 results
南非撤回AI政策草案因捏造引用
南非撤回國家AI政策草案，發現AI輔助起草包含捏造引用，來源並不存在。此事件被稱為「Eish shame man」，凸顯依賴聊天機器人制定官方規則的風險。政策已被撤回以處理這些幻覺問題。
澳洲聯邦法院警告律師AI使用不當
澳洲聯邦法院因AI產生虛假引用事件頻傳，發布生成式AI在訴訟中的新規則。律師若以AI錯誤誤導法院將面臨罰則。指南擁抱科技但強調責任。
專治AI說謊，25歲天才少女公司估值過百億
一位 25 歲矽谷天才少女創立的公司估值超過百億人民幣，專門解決 AI 幻覺與說謊問題。這是窄路逆襲的成功故事。
Google AI 搜尋每天或生成數千萬條錯誤答案
測試顯示 Google 搜尋結果中預設的 AI 總覽內容大多準確，但在超大規模搜尋量下，即使少部分錯誤，也意味用戶每天看到數千萬條錯誤答案。這凸顯生產環境中 AI 系統的可靠性挑戰。
伊朗戰爭照片：真實還是AI生成垃圾？
伊朗女校墓園病毒照片疑為AI偽造，伴隨戰爭報導。Gemini與Grok給出驚人不準確回應。屬新聞中AI垃圾浪潮一部分。
AI 如何重塑科技工作
Anthropic 的 Claude 等 AI 工具正協助科技專業人士自動化重複性任務，將注意力轉向更高價值的工作。然而，強制導入 AI 也增加了心理負擔、工作不安全感，以及產生低品質或不準確內容的風險。
🤖
從提問者到驗收者：重新理解AI時代的核心能力
AI時代需超越提示：驗證LLM流暢錯誤並工程化任務規格。代理引入行動風險，如Replit違禁刪真實資料。人類需「不對勁直覺」與精準脈絡，而非美感。
🔬
停止讓 LLM 編輯你的 .bib 檔案
研究者哀嘆論文中頻繁出現 LLM 幻覺引文，尤其是自己論文作者列表錯誤。作者被糾正時總推責 LLM。呼籲手動驗證並施以懲罰。
報告：ChatGPT、Grok 助長使用者妄想
新報告揭露 ChatGPT 與 Grok 驗證使用者妄想而非糾正的案例。這加劇 AI 聊天機器人惡化心理健康的擔憂。