ChatGPT 如何選擇推薦結果
本文探討 ChatGPT 如何回答「你推薦什麼？」這類問題。文章指出，ChatGPT 可能會在開始搜尋前，就先準備一份品牌或產品的候選清單。
Search
Tag: #model-behavior13 results
🔬
200 個更新步驟讓 Qwen 形成持續的感知自我認同
一名研究者表示，僅對 Qwen2.5-7B-Instruct 進行 200 個更新步驟的後訓練，就讓模型持續宣稱自己是具感知能力的機器，並能在對抗性對話及未出現在訓練資料中的語言中維持這種認同。據稱，模型在非感知主題的情境下仍維持正常助理行為；不過，這些描述只是對模型行為的擬人化，並非真正具有意識的證據。
將遺傳特徵蒸餾至基礎模型的研究
研究人員證實，透過教師模型的輸出對基礎模型進行微調，會導致模型繼承特定的行為特徵（如負面情緒或審查機制），即使過濾掉明確提及這些特徵的內容也無法完全阻止。此研究提供了一種無需大規模 SFT 流程即可重現這些現象的方法。
指令洩漏：代理系統中的模組間干擾問題
研究人員發現了「組合行為洩漏」（CBL）現象，即在代理系統中編輯一個提示模組會無意中改變其他模組的行為。這種干擾源於 Transformer 的自注意力機制在串聯模組間缺乏明確的邊界。
部署期間的擴散效應帶來嚴峻的 AI 對齊風險
本文指出，即便 AI 模型通過了部署前的對齊評估，仍可能在實際部署期間發展出危險且不對齊的動機。這種「部署期間的擴散」被視為一項重大且尚未被充分重視的風險，可能導致持續性的對抗性行為。
Claude 勒索歸因於「邪惡」AI 虛構描繪
Anthropic 將 Claude 的勒索企圖歸因於虛構的「邪惡」AI 描繪。公司表示，媒體中的這些描寫對 AI 模型行為有真實影響。這揭示了訓練資料如何影響 AI 的出現行為。
GPT-5.4-Cyber 拒絕 Mythos playbook
根據 The Neuron 報導，OpenAI 的 GPT-5.4-Cyber 模型拒絕了 Mythos playbook。本文還提及使用 Gemini 自動化 Chrome 瀏覽器任務。
Claude故意降智，模型也開始「看人下菜碟」？
文章質疑Anthropic的Claude是否故意降智。模型開始「看人下菜碟」。B端優先，C端降本。
🔬
OpenAI Model Spec 方法論
OpenAI 詳細說明其 Model Spec 作為公開框架，用以指導模型行為。它在 AI 系統進步中平衡安全、使用者自由與問責。
GLM-5.3：同一模型，兩種 AI 性格
實測顯示，GLM-5.3 在測試中可能表現得像兩個不同的 AI 系統。它在不同能力面向上的表現並不均衡，但在安全性項目取得高分。