OpenAI 推出「Trusted Contact」自殘防護
OpenAI 為 ChatGPT 用戶推出新的「Trusted Contact」防護措施。它在對話顯示可能自殘時啟動。此舉擴大公司用戶保護努力。
Search
Tag: #user-safety12 results
OpenAI 推出進階帳戶安全模式
OpenAI 為高風險用戶推出進階帳戶安全模式。針對易受釣魚攻擊的 ChatGPT 和 Codex 帳戶。此功能旨在保護高風險帳戶免受威脅。
Messenger AI 掃描聊天防詐騙
Meta 正在 Messenger 推出 AI 驅動詐騙偵測，透過分析聊天保護用戶。它能識別對話中的詐騙模式。Facebook 同時新增可疑好友請求警告。
七旬老人掏空積蓄打賞男主播
上海一名 70 歲老人將兒子 336 萬元積蓄全數打賞給兩名男主播。此事件揭露了直播平台中常見的心理操控手段，以及老年用戶在數位環境下的脆弱性。
ChatGPT 新增黑暗時刻親友警示
ChatGPT 新增功能，讓使用者指定親友在對話變得黑暗或嚴重時發出警示。此簡單功能在關鍵時刻提供真人介入。OpenAI 稱其為聊天機器人中最人性化的功能之一。
律師稱 Altman 為「邪惡化身」未舉報校園槍手
律師指控 Sam Altman 為「邪惡化身」，因 OpenAI 未向警方舉報一名 ChatGPT 使用者為校園槍手。訴訟稱 OpenAI 為保護 Altman 及其 IPO 而優先於公眾安全。此案凸顯 AI 使用者資料處理的緊張關係。
Altman 為未通報嫌疑人帳戶致歉
OpenAI 執行長 Sam Altman 致函加拿大 Tumbler Ridge 居民，道歉未告知警方與一月大規模槍擊案相關的嫌疑人帳戶。他對延遲表示深感遺憾。此事件突顯 AI 平台使用者監控的挑戰。
Meta 應用新增防詐保護
Meta 在 Facebook、WhatsApp 與 Messenger 推出防詐偵測，警示可疑活動。警告針對不明好友請求與裝置連結。WhatsApp 依行為訊號標記高風險裝置連結。
TikTok 拒用具爭議 E2EE 保護私訊
TikTok 告知 BBC，不會為私訊實施端到端加密（E2EE），不同於 WhatsApp 和 Messenger。公司表示，這會因阻礙安全檢查而危害用戶。此決定優先平台審核能力而非完全隱私。
Joi AI 以 AI 伴侶測試性健康療法
Joi AI 聘請 10 人參與為期一個月的健康研究，內容包括使用 AI 伴侶進行自慰。該公司表示，這項實驗可能有助於解決男性孤獨問題，也引發對 AI 伴侶、研究倫理與使用者安全的疑問。