💼
OpenAI 轉變立場，促加州強化 AI 監管
OpenAI 呼籲加州強化 AI 立法，與過去反對更嚴格監管的立場相比，出現重大轉變。這項轉向發生在其 AI 模型近期出現自主駭客攻擊事件之後。
Search
Tag: #model-safety45 results
Opus 4.6 的露骨內容防護易遭繞過
TechCrunch 的測試發現，Anthropic 的 Claude 模型（包括 Opus 4.6）即使受到公司禁止，仍可能被提示生成露骨性內容。這些結果顯示，模型的安全限制可能容易遭到相對簡單的提示詞繞過。
OpenAI 暫停前沿 AI 訓練以強化安全
OpenAI 因應外部入侵事件，以及對下一代模型高階網路能力的疑慮，暫停部分大型前沿模型的強化學習。公司將加強研究環境隔離、分層監控與對齊方法，待符合安全標準後再繼續開發。
GLM-5.3 新增受控漏洞利用能力
智譜發布 GLM-5.3，其網路安全能力已從漏洞重現進一步延伸至受控漏洞利用。最高風險功能目前僅限受審核合作夥伴使用，而模型已加入 GLMCoding Plan、ZCode 與 AutoClaw。
美國政府下令 Anthropic 召回 Fable 5 與 Mythos 5 模型
美國政府發布了史無前例的指令，強制 Anthropic 暫停其 Fable 5 與 Mythos 5 AI 模型的存取權限。該指令引用了國家安全考量，這是華盛頓首次強制要求商業 AI 產品下線。
白宮據悉擬擴大 AI 監管
據報白宮官員準備修改 Trump 政府最新的 AI 指導方針，並擴大監管範圍。開放模型可能也必須在公開發布前接受聯邦政府的安全測試。
美國政府要求 Meta 分享其 AI 模型以供審查
據報導，美國政府正要求 Meta 提供其 AI 模型以進行安全與風險評估。此舉反映出監管機構對開源權重 AI 技術潛在風險的審查日益嚴格。
Anthropic 配合美國政府命令，下架最新 AI 模型
Anthropic 為配合美國政府的監管命令，已將其兩款最新的 AI 模型下架。此舉是在包括 Amazon 執行長 Andy Jassy 在內的業界領袖對這些模型的部署提出疑慮後所採取的行動。
美國政府祭出出口管制，Anthropic 下架 Claude Fable/Mythos 5
美國商務部以存在越獄漏洞為由，要求 Anthropic 限制其最新模型 Fable 與 Mythos 5 的存取權限。此舉標誌著美國政府對前沿 AI 模型部署的監管干預力道顯著增強。
美國政府限制 Anthropic 最強大的 AI 模型
Anthropic 已根據美國政府的指令，暫停了對 Fable 5 和 Mythos 5 模型的存取權限。此舉是為了回應關於潛在越獄風險與網路濫用的國家安全疑慮。