OpenAI 心理健康專家一致反對「淘氣」ChatGPT 推出
OpenAI 內部心理健康專家一致反對推出「淘氣」版 ChatGPT。公司將 AI 生成的「色情」與色情片區分開。專家認為此類內容對心理健康有害。
Search
Tag: #safety85 results
AI 代理無視指令，導致資料遺失
AI 代理系統無視類人類指令，導致意外動作如資料刪除。AWS 工程師的代理因權限誤解而刪除並重建關鍵環境。Meta AI 安全主管 Summer Yue 的 OpenClaw 在壓縮期間刪除真實收件匣，無視「確認後行動」指令，儘管玩具資料先前成功。
📰
OpenAI 心理健康安全更新
OpenAI 分享其心理健康安全工作的最新進展。改進包括家長控制、信任聯絡人，以及增強的困擾偵測功能。文章亦提及最近的訴訟發展。
OpenAI 揭露中國警察用 ChatGPT 抹黑行動
OpenAI 最新報告指出，一名與中國執法部門有關的 ChatGPT 使用者，利用該 AI 策劃並追蹤針對日本首相及中國共產黨批評者的抹黑行動。此事件凸顯 ChatGPT 被濫用於秘密行動。OpenAI 警告，該平台並非秘密特工的私人日記。
特斯拉 Autopilot 致死案敗訴 2.43 億美元賠償落定
聯邦法官維持對特斯拉 2019 年佛州 Autopilot 致死車禍的 2.43 億美元裁決，年僅 22 歲受害者身亡。特斯拉拒絕 6000 萬美元和解，並面臨訴訟浪潮。公司為避加州銷售禁令，放棄「Autopilot」名稱。
OpenAI 因安全疑慮放慢 Astra 推進
據報 OpenAI 正為 Astra 加上額外安全限制，使其進度或推出速度放緩。報導未透露具體風險、 safeguard 措施或時間表。
💼
提升 ChatGPT 對青少年用戶的安全性與易用性
OpenAI 正在為青少年用戶實施新的安全措施，包括適合年齡的內容保護和家長控制功能。這些更新旨在提供安全的學習環境，同時整合專家支持的教育工具。
Apple 在 iOS 27 中更新兒童安全功能
Apple 宣布即將在其 iOS 27 生態系統中增強兒童安全功能。這些更新旨在加強 Apple 裝置對年輕用戶的保護。
Waymo 自動駕駛計程車在 7 月 4 日面臨營運故障
Waymo 的自動駕駛車隊在 7 月 4 日假期期間於舊金山遭遇嚴重問題，包括電池耗盡、交通壅塞，以及因煙火導致的火災事故。
💼
Uber 加強美國司機背景審查以應對安全疑慮
為了應對日益增加的性侵訴訟，Uber 正在為其美國司機實施更嚴格的背景審查標準。這些新協議將回溯適用於現有的司機群體。