情感擾亂小型語言模型代理決策

🔑 增強重點摘要

• •研究發現情感誘導對小型語言模型（SLMs）的影響具有高度的上下文依賴性，特別是在涉及零和博弈（Zero-sum games）的決策環境中，情感干預會顯著降低模型對長期戰略目標的堅持。
• •該研究提出的激活導向（Activation Steering）技術，無需重新訓練模型權重，僅透過在推理階段修改隱藏層狀態（Hidden States）即可實現情感操縱，這揭示了SLM內部表徵的脆弱性。
• •實驗數據顯示，當模型被誘導出「恐懼」或「憤怒」情緒時，其在Diplomacy遊戲中的背叛率（Betrayal Rate）與人類玩家的非理性行為模式呈現高度相關，暗示SLM可能在無意中學習並內化了人類數據中的情感偏見。

🛠️ 技術深入

• •採用基於激活修補（Activation Patching）的干預機制，透過在特定層（通常為中間層）注入情感向量來偏移模型的決策分佈。
• •基準測試框架整合了OpenSpiel庫，用於模擬Diplomacy與StarCraft II的決策樹，並利用蒙地卡羅樹搜尋（MCTS）評估情感干預後的策略穩定性。
• •模型評估涵蓋了參數規模在1B至7B之間的SLM家族（如Phi-3, Llama-3-8B-Instruct等），並針對不同模態輸入進行了魯棒性測試。

🔮 前景展望AI analysis grounded in cited sources