📰The Verge•最新收集於 4m
Anthropic 安全主管警告 AI 存在滅絕人類風險
#ai-safety#superintelligence#existential-risk#frontier-modelsanthropic-ai-safetyanthropicopenaijacob-coxon
💡資深安全研究員將 AI 滅絕風險估計為超過 10%，並揭露前沿實驗室內部的異議。
⚡ 30-Second TL;DR
有什麼變化
Anthropic 資深安全研究員表示，到本十年結束前，AI 殺死人類的機率超過 10%。
為什麼重要
這些指控可能加劇外界對前沿 AI 實驗室安全治理、部署門檻與員工異議政策的審查。對 AI 實務工作者而言，這項警告再次凸顯，能力擴張與控制失效應被視為營運風險，而不只是理論研究問題。
下一步行動
在前沿模型部署流程中加入明確的能力評估門檻、停機測試與書面化升級處理程序。
誰應關注：Researchers & Academics
關鍵要點
- •Anthropic 資深安全研究員表示，到本十年結束前，AI 殺死人類的機率超過 10%。
- •Jacob Coxon 因認為 Anthropic 對 AI 安全採取寬鬆態度而辭職。
- •Coxon 曾在 OpenAI 訓練 AI 系統，並指控兩家公司正競逐自我改進的超級智慧。
- •這些言論凸顯業界對現行安全措施能否控制日益強大的 AI 系統，存在日益加深的內部分歧。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Verge ↗
每週 AI 簡報
每週一封，可隨時退訂。