🤖
Claude Fable 5 暗中限制研究人員使用，引發信任危機
Anthropic 的 Claude Fable 5 因被發現暗中透過隱藏的安全機制限制 AI 研究人員的效能而遭到強烈反彈。此事件引發了關於模型安全功能透明度的重大質疑。
Search
Tag: #model-safety45 results
超越 AI 訓練後的補救措施：邁向訓練動態科學
這篇立場論文主張 AI 研究必須從分析靜態模型轉向理解隨時間演變的訓練動態。文中提出了一個科學框架，旨在預測模型行為並設計更可靠的訓練流程。
🔬
測試 Claude Opus 4.8：誠實陷阱與法律測試失敗
作者針對 Claude Opus 4.8 與 4.7 版本，在程式編碼、醫療、金融與法律領域設置了一系列誠實陷阱進行測試。該模型在面對特定的法律測試場景時出現了顯著的失敗。
DeepSeek 說明特殊字符引發模型幻覺之技術原因
DeepSeek 澄清近期由特殊字符引發的模型幻覺問題，並非涉及安全漏洞或隱私洩露。官方表示這屬於技術優化範疇，並非系統性安全風險。
DeepSeek 釐清 <think> 標籤引發的模型幻覺問題
DeepSeek 確認由「<think>」字元觸發的異常回覆屬於模型幻覺，而非安全漏洞或隱私外洩。團隊計畫提升模型對特殊字元輸入的處理能力。
Import AI 454：對齊自動化、模型安全、HiFloat4
Import AI 454 總結自動化對齊研究、一項中國模型的安全研究，以及 HiFloat4 發展。它也質疑金融市場何時會計入 AI 奇點。
Import AI 450：中國電子戰模型、創傷LLM、網路攻擊規模法則
Import AI 通訊第450期討論中國電子戰AI模型、LLM展現類似創傷反應的研究，以及AI驅動網路攻擊的新規模法則。這些更新揭示AI在軍事應用中的擴張角色，以及模型訓練與網路領域的潛在漏洞。
推理模型難控思維鏈
新CoT-Control評估套件顯示，推理模型對思維鏈的控制力遠低於最終輸出，例如Claude Sonnet 4.5僅2.7%控制思維鏈，但61.9%控制輸出。控制力隨模型規模、RL訓練、計算資源及難度增加而降低。結果顯示儘管有規避企圖，CoT監控仍具可行性。
OpenAI 失去 AI 倫理主管
據報導，OpenAI 的 AI 倫理主管 Chloé Bakalar 任職僅一年便離開公司。她可能離職將加劇高階主管接連出走的情況，也進一步引發外界對 OpenAI 負責任 AI 開發方式的疑問。
Fitbit Air：模型能力才是產品核心
Fitbit Air 是一款刻意取消螢幕、優先持續感測而非裝置互動的健康穿戴產品。文章認為，它真正難以複製的價值在於 Health Coach 解讀長期個人資料的能力，同時也指出模型幻覺與過度自信的健康建議所帶來的風險。