SRM-LoRA：利用次黎曼幾何減少 LLM 幻覺
SRM-LoRA 是一項於 ICML 2026 工作坊發表的研究，利用次黎曼度量（sub-Riemannian metrics）重新塑造 LoRA 梯度。此方法能有效抑制導致幻覺的更新路徑，且不會增加推論成本。
Search
Tag: #llm-hallucination7 results
Slopsquatting：由 AI 驅動的新型軟體供應鏈威脅
Slopsquatting 是一種新興的安全威脅，攻擊者會註冊 AI 程式碼助手所產生的虛構套件名稱。這種攻擊利用 LLM 生成聽起來合理的套件名稱，繞過了傳統針對拼字錯誤（typosquatting）的防禦機制。
Arxiv 將對提交 AI 生成垃圾內容的研究人員實施禁令
Arxiv 正在實施一項新政策，針對提交包含虛假來源或錯誤之 AI 生成內容的研究人員，將處以一年停權。此舉旨在維護儲存庫的學術誠信，對抗「AI 垃圾內容」的氾濫。
LLM 與衝突資訊環境的脆弱性
本研究分析了 AI 答案引擎如何處理衝突相關查詢，揭示了當來源數據稀疏時，模型會頻繁產生幻覺。研究強調了生成式引擎優化 (GEO) 在操縱資訊環境方面所帶來的潛在威脅。
TripAdvisor AI 摘要誤導飯店安全資訊
TripAdvisor 的 AI 生成評論摘要將不安全的飯店錯誤標記為「乾淨」與「友善」。這引發了人們對大型語言模型摘要技術在關鍵消費者決策中可靠性的擔憂。
LLM 擁有模型專屬的偏好名稱與名稱組合
研究人員發現 LLM 在生成角色名稱時具有強烈的版本特定偏好，且常將名稱組合成重複出現的「組合」。這些虛構的名稱群組一致地出現在各種 AI 生成內容中，從虛假論文到圖庫照片說明皆可見其蹤跡。
Fitbit Gemini AI 教練因提供糟糕建議面臨強烈反彈
Fitbit整合的Gemini AI教練因提供不準確且令人困惑的健身建議而受到用戶批評。許多用戶對該功能的表現感到失望，甚至表示希望試用期儘快結束。