以探針訓練的研究方向

有什麼變化

讓探針只接觸容易偵測的壞行為子集，並研究如何提升其對未見失敗模式的泛化能力。

為什麼重要

若能成功，以探針訓練可能將行為監督延伸到標註範例之外，支援更具企圖心的 AI 對齊策略。然而，這種類似人腦的做法也凸顯了行為混淆，以及探針無法追蹤新學概念等風險。

下一步行動

建立一個執行期探針控制器，在說謊偵測器預測接下來的 token 有害時改變模型行為，並在保留情境上評估泛化能力。