馬斯克抨擊OpenAI安全：無Grok自殺案
Elon Musk在對OpenAI的訴訟中作證，猛烈抨擊其安全記錄，同時讚揚xAI的安全優先。他聲稱「無人因Grok自殺，但顯然有人因ChatGPT自殺」。這加劇了兩家AI對手的公開爭鬥。
Search
Tag: #ai-safety536 results
信心校準代理的陪審團定理
研究人員提出異質代理透過校準自身可靠性並在不自信時棄權投票的框架，推廣孔多塞陪審團定理。他們推導出選擇性參與設定下的群體成功機率非漸近下界。此工作適用於AI安全，減緩集體LLM決策中的幻覺問題。
OpenAI 報告阻止中國集團針對高市首相的世論工作，ChatGPT 拒絕參與
OpenAI 揭露阻止中國相關集團針對日本首相高市早苗的世論工作。攻擊者指示 ChatGPT 製作假訊息與抹黑計劃，但 AI 拒絕。該行動也使用中國 AI，但 SNS 影響力極微。
IronCurtain 防止 AI 代理失控
IronCurtain 是一個新開源專案，旨在保護 AI 助理代理的安全。它使用獨特方法在代理擾亂用戶數位生活之前加以限制。此舉防止 AI 系統出現失控行為。
ChatGPT Health 遺漏醫療急症
一項研究發現 ChatGPT Health 在超過 50% 的醫學必要案例中未能建議就醫，並經常遺漏自殺意念。專家稱其「極度危險」，因可能導致傷害與死亡。OpenAI 於一月推出此功能，用以連接醫療記錄提供健康建議。
ChatGPT 阻擋中國影響行動
OpenAI 透露，ChatGPT 拒絕協助與中國執法相關人士策劃網路行動，抹黑日本首相。此事件突顯模型防濫用安全機制。OpenAI 強調這是 AI 安全措施的證明。
谷歌、微軟鎖定失控 AI 代理
谷歌無預警封禁開源 AI 代理用戶。微軟切斷 Copilot 存取機密文件以防越權。此舉終止 AI 助手失控狂飆。
OpenAI 考慮向警方警示槍手的 ChatGPT 使用
加拿大不列顛哥倫比亞省塔布勒嶺校園槍擊案發生前數月，嫌犯與 ChatGPT 互動生成暴力場景。OpenAI 曾偵測到這些互動並考慮通知執法部門，但最終未這麼做。此事件突顯 AI 安全協議的挑戰。
Anthropic 禁止 AI 用於武器與監控
Anthropic 制定嚴格政策，禁止其 AI 用於自主武器或政府監控。這些安全限制可能導致公司損失一筆重大軍事合約。此舉突顯 AI 倫理與國防機會間的衝突。
🔬
DeepMind 執行長警告 AI 風險需全球合作
Google DeepMind 執行長 Demis Hassabis 警告人工智慧帶來嚴重風險。他強調這些危險需要緊急關注。國際合作對於有效應對至關重要。