🇬🇧BBC Technology•最新收集於 1m
Anthropic 研究員警告 AI 可能導致人類滅絕
💡超過 10% 的滅絕風險估計，凸顯前沿模型安全評估為何迫在眉睫。
⚡ 30-Second TL;DR
有什麼變化
Anthropic 一名 AI 安全研究員表示，AI 導致全人類死亡的機率高於 10%。
為什麼重要
這類估計可能加大外界對 AI 公司強化前沿模型評估、部署防護措施與治理機制的壓力。AI 從業者也可能面臨更嚴格的審查，必須說明如何衡量並降低低機率、高衝擊風險。
下一步行動
在下一次前沿模型評估計畫中加入災難性風險情境，並為部署設定明確的批准或暫停門檻。
誰應關注：Researchers & Academics
關鍵要點
- •Anthropic 一名 AI 安全研究員表示，AI 導致全人類死亡的機率高於 10%。
- •這項警告聚焦於先進 AI 系統可能帶來的極端災難性風險。
- •此言論延續了 AI 業界領袖近期一連串日益嚴峻的安全警告。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： BBC Technology ↗
每週 AI 簡報
每週一封，可隨時退訂。