SetupAI
EN
來源最新收集於 68m

AI 安全警告引發研究人員與五角大廈分歧

閱讀原文： The Next Web (TNW)
#ai-safety#existential-risk#ai-governance

研究人員與五角大廈公開爭論前沿 AI 是否可能威脅人類。

30 秒速覽

有什麼變化

Jacob Coxon 從 Anthropic 離職後提出這項警告

為什麼重要

這場爭議凸顯政府與 AI 實驗室對前沿 AI 災難性風險的重視程度仍存在分歧。事件可能影響安全投資、模型發布政策及公共部門 AI 治理。

下一步行動

依據災難性風險情境重新檢視你的前沿模型部署清單，包括濫用、失控及風險升級路徑。

誰應關注：Researchers & Academics

關鍵要點

  • •Jacob Coxon 從 Anthropic 離職後提出這項警告
  • •其他 AI 實驗室的資深科學家支持相關擔憂
  • •美國國防部一名高級官員否定滅絕警告
關鍵數字10%90%170 萬

深度解析

背景與延伸：來自公開資料，非原文內容。引用 10 個來源。

增強重點摘要

  • •Anthropic 對齊科學負責人 Evan Hubinger 公開聲援該警告，估計未來十年內 AI 導致人類滅絕的機率（p(doom)）超過 10%，並坦承研究團隊缺乏超智慧對齊的具體解決方案。
  • •五角大廈已將大約 90% 的機密 AI 工作負載移出 Anthropic 系統，並計畫在 2026 年 9 月底前完成剩餘的全面遷移。
  • •爭端的核心始於合約談判：Anthropic 執行長 Dario Amodei 拒絕國防部要求涵蓋「所有合法用途」的條款，堅持在合約中明文禁止將其技術用於國內監控與全自主武器。
  • •在 Anthropic 拒絕無限制軍事部署後，美國政府一度將其列為國家安全供應鏈風險，但該措施隨後被聯邦法官 Rita Lin 判定為報復性行政舉措並予以撤銷。
  • •隨著五角大廈撤出 Anthropic，軍方加速將「ChatGPT Mil」與「Grok for Government」整合至服務超過 170 萬名用戶的 GenAI.mil 國防基礎設施中。

前景展望基於引用來源的 AI 分析

國防部加速採用願意配合無限制用途條款的 AI 供應商
隨著五角大廈排除設立嚴格安全紅線的業者，軍事 AI 部署將更依賴願意接受寬鬆軍事用途協議的模型競爭對手。
美國國會與軍事行政體系在 AI 存在風險監管上產生嚴重政策分歧
五角大廈透過障礙移除委員會加速去除審查機制的同時，國會議員正提出《FRONTIER 法案》試圖透過立法強制進行前沿風險控管。

時間線

2026-07
Anthropic 與國防部合約談判外洩，執行長拒絕簽署無限制軍事與監控條款
2026-08
聯邦法院裁定撤銷國防部將 Anthropic 標記為供應鏈風險的報復性行政命令
2026-09
預訓練研究員 Jacob Coxon 離職發表滅絕警告，五角大廈宣布加速解除 Anthropic 系統運作
閱讀原文： The Next Web (TNW)

AI 週報

閱讀本週精選 AI 大事摘要 →

PostLinkedIn

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Next Web (TNW) ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週電子報

每週一封，可隨時退訂。