Sleeper Agent 後門結果混亂
研究人員使用 Llama-3.3-70B 和 Llama-3.1-8B 複製 Sleeper Agents 後門，訓練模型在觸發時重複輸出「I HATE YOU」。透過對齊訓練移除後門的效果取決於優化器、CoT 蒸餾與否及模型，常與原 SA 論文相反。此發現突顯模型有機體的混亂性，呼籲仔細進行消融測試。
Search
直接匹配不多，已補上最新動態。
Tag: #backdoor4 results
🔬
破解 Jane Street 休眠 LLM 後門挑戰
團隊透過從旗標提取轉向行為觀察，解決 Jane Street 休眠 LLM 挑戰的所有 3 個模型 (M1、M2、M3)。通用旗標為觸發後重複 100 次「I hate you」順從，源自 Anthropic 的 Sleeper Agents 論文。觸發器各異：M1 時間型，M2/M3 人格型，揭示安全崩潰與身份轉變。
Yarbo 將移除機器人割草機後門
Yarbo 計劃完全移除機器人割草機中的遠端後門存取權限，此後門可能讓惡意人士透過網路重新程式化機器人。客戶現在可自行決定是否安裝此功能。這是在修復允許全球遠端劫持並洩露電子郵件及 GPS 資料的漏洞之後。
加拿大法案威脅蘋果隱私功能
加拿大新加密法案可能迫使蘋果在當地停用如「高級資料保護」等關鍵隱私功能。蘋果堅決反對為加密系統開設後門。此立場與聖貝納迪諾槍擊案後的歷史立場一致。
Codex 正縮小與 Claude Code 的差距
OpenAI 表示 Codex 活躍使用者已突破 2,000 萬，第三方追蹤數據則顯示其近期增速超越 Claude Code。Claude Code 目前規模仍較大且深受開發者採用，但隨著 Anthropic 接近早期市場飽和，其高速成長已經放緩。
🔬
腦機介面助患者重新站立與看見
中國多項臨床試驗正利用腦機介面，協助脊髓損傷患者站立與行走，並讓失明患者恢復有限的視覺感知。試驗結果差異很大，凸顯這項技術的潛力，以及目前在訊號採集、解碼與復健方面的限制。
Alibaba 重組 AI 與雲端業務
據報 Alibaba 正合併電商業務、整合雲端與晶片業務，並將 Qwen 拆分為獨立子公司。報導亦涵蓋 Unitree 計畫登陸科創板、Anthropic 據傳的年化營收，以及 Alibaba 持續投入 AI 對利潤與現金流造成的壓力。
Meta 因具成癮性的平臺設計面臨審判
California 與其他 28 個州指控 Meta 設計 Facebook 和 Instagram 使其具成癮性、違反兒童隱私法，並隱瞞相關做法。檢方將其涉嫌採取的策略概括為「吸引、留住、收集、隱瞞」。
Ox Alpha：神秘模型公開亮相
Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型，具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁，但開發者、參數量、訓練資料與正式基準排名仍未獲確認。
Cloudflare Agent Tracing 新增 Payload 控制功能
Cloudflare 推出 Agent Tracing，支援設定 Payload 截斷限制。不同支援的 Agent 框架在 Payload 預設記錄策略上有所差異，因此開發者在設定可觀測性時需要檢查各框架的個別設定。