AI 解釋可能削弱人類判斷力
一項研究發現，LLM 的建議可能說服評估者拒絕有潛力的創新構想，或批准品質不佳的提案。提供敘事式解釋反而讓參與者更容易遵從錯誤的 AI 判斷，而不提供解釋時，人們的獨立判斷表現更好。
Search
Tag: #explainable-ai32 results
🔬
SHAP 在模型決策前揭露代理偏誤
一個合成招聘模型幾乎完全依賴郵遞區號，取得 94.2% 的驗證準確率，揭示僅靠準確率檢查可能漏掉歧視性捷徑。ramen-mlflow-guard 包裝器在執行期間使用 SHAP 證據，當模型違反代理偏誤政策時拒絕受治理的預測。
EmotionThinker 實現可解釋語音情感 AI
EmotionThinker 強化學習框架將語音情感辨識重定義為 SpeechLLM 的可解釋推理。模型從韻律、語義與說話者特徵生成基於證據的解釋。獲 ICLR 2026 Oral 錄取。
MechSim：用於科學模擬器的神經符號推理框架
MechSim 是一個全新的神經符號框架，使 LLM 能夠針對科學模擬器的底層機制與假設進行推理。透過超越黑盒執行模式，該框架能為模擬驅動的決策提供具備證據基礎的解釋。
大型推理模型不確定性量化
新方法使用共形預測量化大型推理模型（LRMs）的推理軌跡與答案不確定性，並提供統計保證。引入Shapley值框架，解釋不確定性來源，透過關鍵訓練範例與步驟。理論分析與實驗驗證其有效性。
TRUST Agents：多代理假新聞檢測框架
TRUST Agents 是一個協作多代理框架，用於可解釋的假新聞檢測和事實驗證。它包含專門代理，用於主張提取、證據檢索、帶有信心分數的驗證，以及人類可讀解釋。擴展版本新增主張分解、多代理評審團和邏輯聚合，在 LIAR 基準測試中解釋性優於基線。
螞蟻數科發布「龍蝦衛士」，護航 OpenClaw 智能體安全落地
螞蟻數科發布「龍蝦衛士」，護航 OpenClaw 智能體安全落地。提供可解釋、可控制、可追溯的安全基礎。
SPOT 透過模擬未來揭示深度強化學習決策
SPOT 是一套與模型無關、以抽樣為基礎的框架，透過有限時域的行動樹解釋深度強化學習策略。它會遞迴模擬後續狀態，揭示單步特徵歸因方法可能忽略的行動偏好與下游行為。
揭露 XAI 與歐盟解釋權之間的落差
這項系統性文獻回顧探討 Explainable AI 是否能依據 GDPR 第 15(1)(h) 條、AI Act 第 86 條及相關規範，實際落實歐盟的解釋權。在 2,643 筆初始紀錄中，僅 57 篇進入全文審查，且只有 19 篇真正整合法律與技術觀點，顯示合規與實作仍存在重大落差。
IMEX：一種用於可解釋預測建模的新方法
IMEX 是一種新的可解釋 AI 框架，旨在識別黑盒模型中的特徵重要性與顯著變數交互作用。它利用 PCS 和 PCI 兩個指標，繪製出個別特徵與非加性效應如何影響目標預測的映射圖。