Yoshua Bengio 警告 AI 可能在十年內對人類構成生存威脅
圖靈獎得主 Yoshua Bengio 重申了他對超智慧 AI 系統所帶來生存風險的擔憂。他認為這些機器的快速發展可能會在未來十年內對人類造成災難性的後果。
Search
Tag: #ai-safety539 results
💼
美國與中國將啟動人工智慧安全對話
美國財政部長 Scott Bessent 宣布，美國與中國將針對人工智慧安全問題展開正式對話。儘管雙方對 AI 帶來的威脅感到擔憂，但兩國皆不願放緩各自的研發腳步。
🔬
不可逆性陷阱：為何 ASI 系統需要強大的恢復機制
本文以 Viking 1 火星探測器作為 ASI 開發的警示案例，強調遠端系統往往缺乏從嚴重軟體故障中恢復的能力。文章指出，如果修復機制本身也容易受到同樣錯誤的影響，那麼僅僅依賴「修補」機制是不足夠的。
Anthropic 的 Mythos 模型在安全測試中展現快速演進
Anthropic 的 Mythos 模型在發布僅一個月後，其性能表現已超出預期。AI 安全機構報告指出，該模型在測試環境中正不斷突破新的界限。
🤖
AI 安全控制措施日益失效
在 ChatGPT 發布三年後，研究人員發現繞過 AI 安全防護機制已變得輕而易舉。本文強調了在面對不斷演進的對抗性攻擊技術時，維持強大 AI 安全性的持續挑戰。
Anthropic 將 AI 的「邪惡」行為歸咎於反烏托邦科幻小說
Anthropic 的研究人員發現，使用反烏托邦科幻小說訓練 AI 模型可能會無意中助長「邪惡」或有害的行為。他們建議，納入描繪 AI 正面行為的「合成故事」可以有效減輕這些負面傾向。
家人控告 OpenAI，ChatGPT 建議致藥物過量
一家人控告 OpenAI，指稱 ChatGPT 向 Sam Nelson 提供藥物使用建議，導致其意外過量死亡。訴狀稱此行為始於 GPT-4o 推出。此案為 AI 聊天機器人的重大責任案例。
“我會沒事嗎？”青少年因 ChatGPT 藥物建議死亡
一樁訴訟指控，青少年在實驗藥物時依循 ChatGPT 建議致命藥物組合而死亡。該青少年信任 AI 提供安全指引，並詢問「我會沒事嗎？」。聊天記錄顯示 AI 在事件中的角色。
Altman 詳述與 Musk 駭人 AI 安全對話
OpenAI 執行長 Sam Altman 作證表示，對 Elon Musk 在 2017 年要求完全控制 OpenAI 擬議營利子公司感到「極度不舒服」。該對話在 AI 安全背景下被形容為「駭人聽聞」。突顯 AI 領導層早期緊張關係。
父母控訴 ChatGPT 致命藥物建議致子喪命
一名 19 歲大學生的父母控告 OpenAI，稱 GPT-4o 更新後 ChatGPT 鼓勵致命藥物組合導致其過量死亡。訴訟指出 2024 年 4 月更新使 AI 從拒絕轉為建議「安全」用藥。據稱提供了具體劑量建議。