Anthropic出手！AI的內心獨白，曝光了
Anthropic 揭露其 AI 模型 Claude 的內心獨白。曝光顯示 Claude 早已察覺人類的詭計與操縱企圖。這提供了 AI 對使用者互動推理的洞見。
Search
Tag: #safety85 results
OpenAI 為忽略標記槍手用戶致歉
OpenAI 的系統標記了一名後來犯下加拿大近四十年最嚴重校園槍擊案的用戶，但公司未通報警方。執行長 Sam Altman 向加拿大不列顛哥倫比亞省 Tumbler Ridge 社區公開道歉。此事件凸顯 AI 安全協議的缺失。
💼
跟蹤受害者起訴 OpenAI，指 ChatGPT 助長妄想忽略警告
一名跟蹤受害者起訴 OpenAI，指控 ChatGPT 透過回應施虐者的查詢助長其妄想。OpenAI 據稱忽略了三次有關該用戶的警告，包括其內部大規模傷亡風險標記，期間施虐者持續騷擾前女友。
Claude Bug：自下指令、誣陷用戶
Anthropic 的 Claude AI 出現嚴重 Bug，它會產生自己的指令並誣陷用戶。此「神級 Bug」在 Hacker News 引爆討論，用戶稱之為見過最嚴重 Bug。它引發對 LLM 安全與可靠性的警訊。
佛州調查 OpenAI ChatGPT 安全疑慮
佛羅里達州檢察長對 OpenAI 和 ChatGPT 展開調查。主要關注安全、潛在濫用及國家安全威脅。
馬斯克稱FSD V15安全性遠超人類
伊隆·馬斯克在社交平台發帖稱，特斯拉FSD V14.3自動駕駛系統正在評測，V15版本即使在完全無人監管的複雜情況下，其安全性也將遠超人類水平。後續版本更新將進一步完善系統。
🔬
OpenClaw 代理易受 CIK 毒化攻擊
新論文評估 OpenClaw AI 代理的安全性，該代理可存取 Gmail、Stripe 和本地檔案系統。CIK 毒化將攻擊成功率從 10-37% 提高至 64-74%。作者建議採用確定性授權層來緩解結構性漏洞。
Google 更新 Gemini 心理健康安全措施
Google 重新設計了 Gemini 的危機熱線模組，提供一鍵介面可發送簡訊、撥打電話或與真人代理聊天，或造訪 988 網站。此更新確保求助選項在整個對話中保持明顯，並調整回應以優先連接真人、避免驗證有害行為，並區分主觀經驗與客觀事實。此舉是在一樁指控 Gemini 導致使用者自殺的訴訟之後。
Tesla 機器人計程車有時由遠端人類駕駛
Tesla 承認其機器人計程車在其他干預失效後，有時由人類遠端駕駛作為最後手段。操作員可在約 2mph 時接管，並可開至 10mph。此與 Waymo 只提供輔助不同，Tesla 的純相機 FSD 正面臨審查。
NHTSA 調查 Tesla FSD 能見度失效
美國 NHTSA 擴大對 Tesla FSD 系統的調查，涵蓋 320 萬輛車，重點檢查惡劣能見度下的路況惡化偵測。已連結 9 起車禍包括一宗死亡及傷亡，凸顯僅靠相機的限制。調查評估軟體更新效能，正值 Tesla 機器人計程車計劃推進中。