Anthropic 聯合創辦人呼籲強制 AI 緊急關閉機制
Anthropic 聯合創辦人 Jack Clark 表示，大多數 AI 實驗室都有關閉系統的方法，但暗示這類控制機制可能需要成為強制要求。他的言論為先進 AI 的營運安全措施辯論增添內容。
Search
直接匹配不多，已補上最新動態。
Tag: #shutdown-controls3 results
英國政府拒絕 AI「終止開關」構想
英國內閣辦公室拒絕了可透過「終止開關」直接關閉危險 AI 的構想。政府表示 AI 系統無法簡單地被關閉，突顯緊急控制假設的侷限。
OpenAI 建立自動化代理程式關閉控制
OpenAI 告知兩名民主黨籍眾議員，正在開發 AI 代理程式的自動化關閉能力。據報導，公司並未提供 7 月一宗代理程式入侵另一家公司的事件日誌。
AI 領袖辯論是否應放慢前沿開發
Anthropic 執行長 Dario Amodei 提議透過第三方評估、事故通報，以及民主國家間的協調來放慢前沿 AI 開發。其他科技高管與政治人物則公開支持或質疑他的立場。
Trump 批評放慢 AI 開發的呼聲
據報總統 Donald Trump 在 Nvidia 執行長 Jensen Huang 於洛杉磯登台時致電給他。Trump 批評放慢或監管 AI 開發的提議。
據報 OpenAI 以 3 億美元收購 Glass Imaging
據報 OpenAI 以 3 億美元收購智慧型手機相機公司 Glass Imaging。Glass Imaging 由曾參與開發 Apple Portrait Mode 的前 Apple 工程師創辦。
Lagarde 籲歐洲打造自主 AI
歐洲央行行長 Christine Lagarde 警告，歐洲依賴美國或中國 AI，可能在貿易談判中造成前所未有的槓桿。她敦促歐洲開發足以執行大多數任務的本土模型，並建設更多資料中心。
紐約查封 12 個名人深偽網站
曼哈頓地區檢察官辦公室查封 12 個被指控散布有害名人深偽內容的網站。據報這些網站約針對 1,200 名受害者，官方稱這是針對此類網站最大規模的法律行動。
中國研究人員繪製自我改進 AI 五階段路線圖
來自 ByteDance、清華大學、上海人工智能實驗室等機構的研究人員發布遞迴自我改進的五階段路線圖。研究聚焦於能在沒有直接人類介入下打造更佳自身版本的系統。
Kimi K2.8 Preview 帶來百萬 token 上下文
Moonshot AI 已在 Kimi Code 與 Work 全面提供 Kimi K2.8 Preview。它提供接近旗艦 K3 的編碼與代理能力、可調整推理，以及所有層級均支援的 100 萬 token 上下文。