DIG 擴展可解釋多代理協作
研究人員推出 DIG，一種動態互動圖，用於捕捉無角色多代理 LLM 系統中的湧現協作。它能即時觀察、解釋並修正如重複工作和連鎖故障等錯誤。這使真正自主的代理式 AI 具可擴展性和可解釋性。
Search
Tag: #explainability9 results
為什麼 AI 應該像使用者一樣推理
這篇立場論文主張，高風險 AI 系統應以與使用者認知方式一致的邏輯推理，並忠實傳達其理由。論文整理相關證據、提出新的調查結果，並規劃提升認知對齊與 AI 可信度的研究方向。
PACE：用於可操作反事實解釋的神經符號框架
PACE 是一個全新的神經符號框架，結合了神經預測模型與符號推理，旨在生成可行的反事實解釋。透過整合領域特定的約束條件，該框架確保了 AI 的建議既具備可解釋性又具備可操作性。
定義大型語言模型輸出的優質解釋
本研究論文提出了一種基於反事實推理與對話者先驗信念的 AI 可解釋性新定義。文中強調了為複雜的 LLM 輸出產生有意義解釋的內在困難。
透過特徵歸因實現嚴謹可解釋性
這篇新 arXiv 論文批評非符號化 XAI 方法如 Shapley 值和 SHAP 缺乏嚴謹性，在高風險 ML 中可能誤導。它概述採用嚴謹符號方法進行可靠特徵重要性歸因的持續努力。
🔬
解開 AI「思考」黑盒至關重要
理解 AI 如何「思考」對於在敏感議題上信任它至關重要。解釋性領域的研究人員正努力打開 AI 的大腦黑盒。此努力對可靠的 AI 部署至關重要。
fEDM+：提升倫理AI解釋性與多元驗證框架
fEDM+ 擴展模糊倫理決策框架，新增解釋性與追蹤模組（ETM），將決策連結至道德原則並提供加權貢獻剖析。它引入多元語意驗證，對多個利益相關者參照進行評估以提升穩健性。框架保留Fuzzy Petri Nets的正式可驗證性，用於倫理敏感AI系統的監督。
X-MAP剖析垃圾郵件偵測錯誤分類
X-MAP是一個可解釋框架，結合SHAP歸因與NMF建立正確分類垃圾郵件/釣魚與合法訊息的主題剖析。透過Jensen-Shannon散度測量訊息偏離剖析以偵測錯誤分類。實驗在SMS與釣魚資料集達0.98 AUROC，並作為修復層回收97%假拒絕預測。
醫療 AI 的下一關是可解釋性
醫療 AI 正進入一個準確率不再足以區分產品與模型的階段。新的衡量標準是系統能否向臨床醫師及其他利害關係人清楚解釋判斷依據。