利用 Toulmin 論證模型提升 AI 診斷透明度
本研究提出了一種將機器學習醫學診斷拆解為 Toulmin 論證模型組件（如主張、依據、保證與反駁）的框架。透過整合 MedGemma 與 MedSigLip，該系統能為人類專家提供結構化且具備可解釋性的臨床決策依據。
Search
Tag: #explainable-ai32 results
用於網路實體物聯網系統的物理啟發式歸因框架
這項研究引入了一種新穎的框架，利用基於能量的表示法來解釋複雜網路實體系統中的 AI 決策。透過在無需定向因果圖的情況下對變數依賴關係進行建模，它為解釋系統行為提供了一種更具擴展性且穩健的方法。
混合式 AI 模型預測性工作者心理健康風險
研究人員開發了一種結合集成特徵選擇與 Harris Hawks 優化的混合預測模型，用於識別性工作者的心理健康風險。該模型達到 95.78% 的準確率，為針對性的心理社會護理提供了可解釋的工具。
在 AI 車輛中將「駕駛員」重新定義為「主控者」
隨著自動駕駛技術的演進，人類操作員的角色正從主動駕駛轉向高層級的系統管理，這需要對 HMI（人機介面）進行根本性的重新設計。
LLM 實現可解釋 AML 分類
提出一個證據約束的 LLM 框架，用於 AML 警報分類，整合檢索增強證據彙整、帶引用結構化輸出，以及反事實檢查。在合成基準上超越基線，PR-AUC 0.75，並具強大解釋性指標如引用有效性 0.98。實現受監管金融工作流程中可審計的合規 LLM 使用。
ReSS：符號支架提升表格資料推理
ReSS 框架從決策樹提取決策路徑作為符號支架，引導 LLM 產生表格資料的忠實推理。它建立高品質資料集用於微調 LLM，並透過資料增強提升泛化能力。在醫學與金融基準上提升達 10%，並引入忠實度指標。
混合系統的可解釋規劃
這篇 arXiv 論文介紹了針對混合系統的可解釋人工智慧規劃（XAIP）的全面研究。它強調在自駕車、機器人與醫療等安全關鍵領域的應用。此研究因應 AI 自動化轉變，解決自動化規劃中日益增長的解釋需求。
ILASP 近似偏好學習的神經網路以提升可解釋性
本文提出使用 ILASP（歸納邏輯程式學習工具）來近似黑盒神經網路，用於食譜使用者偏好學習。新資料集用於訓練 NN，並以主成分分析（PCA）預處理高維特徵。實驗評估 ILASP 作為全球與局部近似器，平衡保真度與計算時間。
Gartner：2028 年半數生成 AI 企業將投資 LLM 可觀測性
Gartner 預測，到 2028 年，50% 採用生成 AI 的企業將投資 LLM 可觀測性工具。可解釋 AI 被視為關鍵驅動因素。這反映對監控 LLM 效能和風險的日益需求。
不確定性知覺 XAI 系統性調查
這篇 arXiv 論文調查不確定性知覺可解釋 AI (UAXAI)，詳述不確定性如何透過 Bayesian、Monte Carlo 和 Conformal 方法整合進解釋流程。它概述策略如可信度評估、模型約束及不確定性溝通。本文批判評估方法的碎片化，並倡導統一原則連結不確定性傳播、穩健性與人類決策。