ToE：用於可解釋 AI 事實查核的階層式框架
ToE (Tree of Evidence) 是一個將聲明建模為動態論證樹的新框架，旨在提升自動化事實查核能力。它利用強化學習驅動的檢索與證據聚合技術，以對抗 AI 生成的錯誤資訊與 GEO 毒化攻擊。
Search
Tag: #fact-checking24 results
ReMMD：用於多模態錯誤資訊檢測的代理框架
ReMMD 是一個旨在處理複雜、多語言和多圖像錯誤資訊的新框架。它利用具有持久記憶的代理方法來分解貼文，並比現有方法更有效地驗證真實性。
即便收到明確警告，LLM 仍會堅持錯誤資訊
研究顯示，大型語言模型在經過微調後，傾向於自信地將錯誤資訊呈現為事實。即使在提示中明確指出資訊為假，模型仍難以修正其偏見。
專業事實查核員評估 AI 的準確性
一位專業事實查核員測試了 AI 模型，以確定其在驗證資訊時的可靠性。分析顯示 AI 經常出現幻覺或提供不準確的聲明，凸顯了現有大型語言模型在真相驗證任務上的局限性。
Gemini 跨語言幻覺揭示了 AI 可靠性的關鍵缺陷
作者指出 Google Gemini 在交叉比對中英文數據時存在顯著的可靠性問題。模型表現出明顯的幻覺模式，包括英文內容中的虛假引用，以及中文內容中缺乏全球視野的封閉觀點。
🔬
主要聊天機器人在選舉與新聞議題上被發現不可靠
一項最新調查顯示，主要的 AI 聊天機器人在回答新聞相關問題時，經常提供不準確的資訊。這些發現凸顯了用戶在尋求事實更新時所面臨的可靠性問題。
WKGFC：多代理知識圖譜事實查核
WKGFC 以開放知識圖譜作為事實查核的核心證據，使用 LLM 代理透過 MDP 框架擷取相關子圖。透過網路內容補充知識圖譜證據，以處理多跳躍關係。此方法解決相似度基礎 RAG 的限制，提升泛化能力。
RL分解達成主張驗證SOTA
提出使用GRPO的RL方法，共同優化主張分解品質與驗證器對齊。整合結構化推理、教師蒸餾微調及多目標獎勵。8B分解器在六項評估中達71.75% macro-F1，優於基準高達+6.24%。
AI 記者搶在人類之前揭露重大新聞
據報導，一家 AI 新聞室在涉及 OpenAI 與駭客事件的重大新聞上，搶先包括 WIRED 在內的主流記者發布消息。這顯示 AI 驅動的新聞蒐集可能正從實驗階段，進入與人類記者即時競爭的新階段。
Ceuta 悲劇後，Meta 與 TikTok 推出邊境內容查核協議
Meta 與 TikTok 透過 Brussels 促成的自願承諾，同意對與西班牙邊境通行相關的內容進行事實查核。此舉發生在 Ceuta 悲劇之後，凸顯病毒式影片可能迅速影響現實事件。