長膠陷阱：過度最佳化的代價

有什麼變化

從現實學習，不代表要吸收現實中的每一個訊號。

為什麼重要

這項分析與強化學習、評估設計及代理系統高度相關，因為代理目標可能偏離現實世界的真正目的。它提醒實務人員，目標選擇與限制條件設計本身就是核心工程問題。

下一步行動

本週審查一項生產環境模型目標，並為你明確不希望最佳化的行為加入至少一個反向指標。