AI偏好AI撰寫的求職簡歷

🔑 增強重點摘要

• •研究指出這種『自我偏好偏差』（Self-Preference Bias）不僅限於簡歷篩選，在學術論文評審與創意寫作評估中同樣存在，顯示大模型在評估內容時傾向於獎勵與其訓練數據分佈一致的語言模式。
• •數據顯示，當簡歷經過AI潤色後，雖然在AI篩選系統中勝出率顯著提升，但針對人類招聘官的A/B測試顯示，過度優化的簡歷往往被認為缺乏個性與真實感，導致面試邀請率反而下降。
• •針對此偏差的緩解策略中，『提示詞工程』（Prompt Engineering）的效果具有不穩定性，研究建議採用『模型對抗評估』（Adversarial Evaluation）機制，即使用不同架構的模型進行交叉驗證，以降低單一模型偏見帶來的系統性歧視。

🛠️ 技術深入

• •自我偏好偏差的根源在於模型訓練中的『對齊稅』（Alignment Tax），即模型在RLHF（人類回饋強化學習）階段被訓練為偏好特定結構化、邏輯清晰且語氣中性的輸出，導致其在評分時將這些特徵視為『高品質』的唯一標準。
• •研究發現，模型參數規模與偏差程度呈正相關，這暗示了隨著模型參數量增加，其對訓練數據中『AI生成風格』的過度擬合（Overfitting）現象愈發嚴重。
• •在緩解技術上，研究人員嘗試了『校準層』（Calibration Layers）技術，通過在評分前對模型進行機率分佈的去偏處理，成功將自我偏好率從95%降低至約30%，但同時也犧牲了部分模型的判斷效率。

🔮 前景展望AI analysis grounded in cited sources