稀有類別是否應合併為「其他」類別？

💡了解「其他」標籤何時能簡化類別不平衡，以及何時會傷害分類器表現。

⚡ 30-Second TL;DR

有什麼變化

將外觀差異很大的稀有類別合併，可能形成語意不一致的目標標籤。

為什麼重要

不當的標籤合併可能降低少數類別的可解釋性，並讓生產環境中的錯誤更難診斷。明確處理稀有或未知類別可能帶來更可靠的行為，但需要合適的驗證資料與閾值校準。

下一步行動

進行分層消融實驗，比較統一「其他」標籤、開放集拒絕與階層式分類，再以 macro-F1 和未知類別召回率選擇方案。

誰應關注：Researchers & Academics

AI-generated analysis for this event.

•在處理長尾分佈（Long-tail distribution）時，合併類別會導致模型在損失函數（Loss Function）中對少數類別的梯度貢獻被稀釋，進而降低對邊緣案例的敏感度。
•研究顯示，使用『其他』類別會引入標籤雜訊（Label Noise），這在深度學習模型中可能導致過度自信（Overconfidence）的錯誤預測，特別是在 Softmax 輸出層。
•針對稀有類別，現代實務傾向使用重採樣（Resampling）技術，如 SMOTE 或類別加權損失函數（Class-weighted Loss），而非單純合併類別。
•在開放集識別（Open-Set Recognition）框架下，將未知類別視為『其他』會阻礙模型學習類別間的語意相似性，建議改用原型學習（Prototypical Learning）來定義邊界。
•合併類別會導致混淆矩陣（Confusion Matrix）在評估時產生誤導，掩蓋了模型在特定稀有類別上的真實召回率（Recall）下降問題。

損失函數調整：採用 Focal Loss 或 Class-Balanced Loss 來動態調整不同類別的權重，以解決類別不平衡問題。
嵌入空間（Embedding Space）分析：利用 t-SNE 或 UMAP 視覺化合併後的『其他』類別，通常會發現其在特徵空間中呈現高度離散且無意義的聚類。
拒絕機制（Rejection Mechanism）：在分類器後端加入基於熵（Entropy）或最大 Softmax 機率（MSP）的閾值過濾，以區分已知類別與未知類別。
階層式分類架構：透過構建類別樹（Category Tree），將稀有類別歸入父類別（Parent Node）而非強制合併至單一『其他』標籤，以保留語意結構。