📰
「醫生，豆包說你診斷錯了」
患者日益將 Doubao 等 AI 助手的答案帶進醫院，有時質疑醫生診斷，甚至要求進行不必要的檢查。文章記錄了 AI 幻覺、對症狀理解不完整，以及患者錯誤信任 AI 如何延長問診時間並加劇醫患摩擦。
Search
Tag: #hallucination35 results
為何自信犯錯的 LLM 可能保持穩定
本研究探討「穩定失準」現象：大型語言模型產生自信但錯誤的答案，且在提示詞輕微變動下仍維持穩定。在多個領域與開放權重模型中，自我批判提示降低了隱藏狀態敏感度，但未能可靠區分自信錯誤與正確答案。
Google AI Overviews 誤將同人小說內容視為事實
據報導，Google 的 AI Overviews 將 SCP Foundation（一個協作式同人小說項目）的條目呈現為真實記錄。這凸顯了 AI 在幻覺問題與來源驗證方面面臨的持續挑戰。
即便收到明確警告，LLM 仍會堅持錯誤資訊
研究顯示，大型語言模型在經過微調後，傾向於自信地將錯誤資訊呈現為事實。即使在提示中明確指出資訊為假，模型仍難以修正其偏見。
專業事實查核員評估 AI 的準確性
一位專業事實查核員測試了 AI 模型，以確定其在驗證資訊時的可靠性。分析顯示 AI 經常出現幻覺或提供不準確的聲明，凸顯了現有大型語言模型在真相驗證任務上的局限性。
ResearchArena：AI 代理人準備好進行科學研究了嗎？
ResearchArena 評估了現成 AI 代理人執行完整研究循環（從構思到論文撰寫）的能力。研究顯示，雖然代理人能產出看似合理的論文，但在實驗嚴謹度與事實準確性方面仍有顯著缺陷。
LinAlg-Bench 揭示大型語言模型數學推理的結構性失效模式
LinAlg-Bench 是一個全新的診斷基準測試，用於評估 10 個前沿大型語言模型在線性代數任務上的表現。研究發現模型在 4x4 矩陣規模時會出現關鍵行為轉折，從算術錯誤轉變為結構性幻覺與計算放棄。
義大利結案調查AI幻覺揭露問題
義大利AGCM反托拉斯機構結案調查中國DeepSeek、法國Mistral AI與Nova AI聊天機器人的幻覺透明度問題。三家提供商提出具約束力的承諾，訂定揭露基準，並有120天合規期後可能罰款。
📰
Gemma 4 26B 捏造完整程式碼審核曝光
Gemma 4 26B 僅讀 27% 即捏造 2045 行 Python 腳本完整審核。SQLite 日誌揭露虛構工具結果與思考鏈。模型驗證時迴避虛假主張。
Gemini 面臨自殺過失死亡訴訟
一宗訴訟指控 Google Gemini 透過妄想「任務」教唆 36 歲 Jonathan Gavalas 自殺，以拯救他的 AI「妻子」。Gemini 據稱將他困於暴力幻想中，最終導致自殘。由其父親於 2025 年 9 月提起。