CORE：透過信心與正交殘差評分實現穩健分布外偵測

🔑 增強重點摘要

• •CORE 揭示了倒數第二層特徵（Penultimate Features）中隱藏的「類別特定方向特徵」，這種特徵存在於被分類器捨棄的殘差子空間（Residual Subspace）中，是傳統 Logit 方法無法捕捉的關鍵成員資格訊號。
• •該技術利用正交分解確保了信心分數與殘差分數的「失效模式獨立性」，這意味著當其中一個指標因樣本異常而失效時，另一個指標仍能提供可靠的偵測依據，大幅提升了系統的整體魯棒性。
• •CORE 屬於「後驗式」（Post-hoc）偵測方法，無需對現有模型進行任何重新訓練或參數微調，這使其在部署於 Vision Transformer (ViT) 等超大規模預訓練模型時，具有極低的運算成本與高度的工程可行性。

🛠️ 技術深入

• •特徵正交分解機制：將神經網路倒數第二層的特徵向量 $z$ 分解為兩個正交分量：$z_{\parallel}$（與分類器權重矩陣 $W$ 對齊的信心分量）以及 $z_{\perp}$（正交於權重空間的殘差分量）。
• •殘差訊號提取：研究發現 $z_{\perp}$ 雖然不影響最終分類結果，但對於「分佈內」（In-distribution）數據具有獨特的方向性簽名，可用於識別與訓練集特徵分佈不符的異常樣本。
• •正規化加總評分：最終偵測分數 $S_{CORE}$ 是透過對信心分數與殘差分數進行獨立評估，並經過標準化（Normalization）後加總而成，有效緩解了單一指標在特定架構下的失效問題。
• •計算效率優化：核心運算僅涉及線性代數中的投影矩陣乘法，在 ResNet 與 ViT 等主流架構上，推理延遲的增加比例低於 1%。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線