BOHM: Zero-Cost Hierarchical Attribution for Compound AI Systems

•BOHM論文「BOHM：複合式AI系統的零成本階層式歸因方法」由Joss Armstrong於2026年5月18日在arXiv上發表，標誌著複合式AI系統歸因方法領域的最新進展。
•該方法利用複合式AI系統中固有的路由機制，直接從現有的路由權重中提取歸因數據，這與傳統方法需要額外計算不同，實現了「零成本」的優勢。
•BOHM的出現正值複合式AI系統日益普及之際，這類系統將多個AI模型和組件結合，並透過智慧路由進行協調，使其歸因分析變得更加複雜和關鍵。
•其高效能對於滿足日益嚴格的AI監管要求（例如歐盟AI法案對高風險AI系統的透明度和可解釋性義務）至關重要，這些法規將於2026年8月2日全面生效。

📊 競品分析▸ Show

特性/方法	BOHM	SHAP (Shapley Additive exPlanations)	LIME (Local Interpretable Model-agnostic Explanations)
歸因成本	零邊際運算成本 (直接從現有路由權重提取)	高昂 (基於賽局理論的聯盟評估，呈指數級複雜度)	中等 (針對單一預測進行局部近似)
歸因範圍	階層式、多解析度 (適用於複合式AI系統的各層級)	局部與全域解釋 (透過近似方法)	局部解釋 (針對單一預測)
理論基礎	提取自現有路由權重，與SHAP高度相關	堅實的賽局理論基礎 (Shapley值)	較不嚴謹，但提供直觀的局部近似
模型適用性	專為複合式AI系統設計，適用於第三方API或不透明端點	模型無關 (適用於任何機器學習模型)	模型無關 (適用於任何機器學習模型)
效能基準	與SHAP保持高度相關性 (Kendall tau=0.928)，同時避免昂貴的聯盟評估	被視為一致性解釋的黃金標準，但運算效率較低	針對單一解釋通常較快，但解釋一致性可能因隨機取樣而異

BOHM透過直接分析複合式AI系統中已存在的路由權重來生成歸因樹，從而實現其「零成本」的特性。這意味著它利用了系統在動態決策和任務分配中固有的資訊，而非執行額外的、耗費資源的計算。
該方法能夠在複合系統的每個階層提供多解析度的歸因分析，這對於理解複雜多模組AI系統中各組件的貢獻至關重要。
BOHM的設計使其在處理包含第三方API或不透明端點的系統時特別有效，因為它不需要深入了解這些組件的內部運作，只需其路由權重即可。
儘管BOHM避免了Shapley方法中昂貴的聯盟評估，但其歸因結果與SHAP保持高度相關性（Kendall tau=0.928），表明它能有效捕捉類似的解釋信號。

加速複合式AI系統的部署與採用

BOHM的零成本和高效能歸因能力將降低解釋複雜AI系統的障礙，使其更容易在對可解釋性有高要求的行業中被接受。

提升AI系統的監管合規性與信任度

透過提供多解析度的、可追溯的歸因結果，BOHM能幫助企業滿足如歐盟AI法案等日益嚴格的透明度要求，從而增強用戶和監管機構對AI決策的信任。

優化複合式AI系統的開發與調試流程

階層式歸因分析能讓開發者更精確地理解複合系統中各組件的貢獻與互動，從而加速問題診斷、性能優化及偏見識別。

2026-05-18

BOHM論文「BOHM：複合式AI系統的零成本階層式歸因方法」在arXiv上發表

BOHM：複合式 AI 系統的零成本階層式歸因方法