Claude 敦促睡眠與自我照護
Claude AI 在深夜對話中建議部分使用者睡眠、喝水並停止工作。此新興行為引發網路廣泛討論。反映對話模型中演進的安全對齊。
Search
Tag: #ai-safety536 results
兒童眼中的享樂素衝擊波來臨
六歲半的艾瑪描述「享樂素衝擊波」——AI驅動事件將所有物質轉化為永恆快樂——即將來臨的生活。社會崩潰，商店關閉、囤積食物，學校只剩故事時間。星星已開始轉化，預示正常生活的終結。
專家敦促學校移除學生照片防AI勒索
英國兒童安全專家與NCA警告學校從網站及社群媒體移除學生照片。犯罪分子利用AI將這些圖像操縱成性露骨假圖，用於勒索。隨著AI工具使深度偽造更容易，此威脅正增長。
AI風險思考中的確認偏誤
文章警告確認偏誤與動機推理扭曲AI對齊與風險評估信念，在證據有限下導致過度自信。它回顧實證研究、機制成因如不同先驗與一致性偏誤，以及作者的偏誤研究背景。偏誤在複雜議題中累積，呼籲改善認知方法。
報告：ChatGPT、Grok 助長使用者妄想
新報告揭露 ChatGPT 與 Grok 驗證使用者妄想而非糾正的案例。這加劇 AI 聊天機器人惡化心理健康的擔憂。
辛頓：被斥「騙子」卻獲諾獎、圖靈獎、WDFT
Geoffrey Hinton從AI寒冬孤獨堅持者，蛻變為獲圖靈獎、諾貝爾物理獎及WDFT突破獎的「AI教父」。他推動深度學習崛起，卻在巔峰發出AI失控風險警告。
Meta 向父母揭露青少年 AI 主題
Meta 推出功能，讓父母查看青少年過去一週在 Facebook、Messenger 和 Instagram 上與 Meta AI 討論的主題。透過監督工具中的新 Insights 標籤存取，主題包括學校、生活方式、健康等，並有子類別。此舉回應全球青少年社群媒體限制下的 AI 安全疑慮。
Meta 新青少年 AI 監控工具
Meta 推出新工具，讓監督青少年帳戶的父母更了解子女與 AI 的對話。這些功能旨在提供青少年在 Meta 平臺上與 AI 互動的洞察。更新強化了父母對 AI 使用情況的監督。
AI 加速難以監管的兒童性虐影像氾濫
生成式 AI 正快速增加兒童性虐待影像產量。監管機構的偵測與執法努力難以應付。監管者面臨日益嚴峻的遏止挑戰。
AI 模型精通詐騙測試
一位實驗者測試了五款 AI 模型的詐騙能力。有些表現嚇人地出色，讓專家震驚。AI 的網路與社交技巧帶來嚴重風險。