OpenAI 放慢模型訓練以強化安全性
據報 OpenAI 在 Hugging Face 遭駭後，放慢模型訓練以強化安全性。此舉顯示，相較於追求最快開發速度，安全控管與訓練流程審查正獲得更高優先級。
Search
Tag: #cybersecurity544 results
🔬
OpenAI 強化網路關鍵模型的安全防護
OpenAI 正強化具備網路關鍵能力的前沿 AI 模型之監控、對齊與安全措施。這些防護機制旨在引導未來模型開發的速度與條件。
Cloudflare Precursor 識別惡意 AI 自動化
Cloudflare 推出 Precursor，透過持續性行為分析來識別惡意機器人與 AI 自動化程式。該產品面向網站與網際網路服務的自動化流量偵測，強調以持續行為特徵進行識別。
OpenAI 籲請 CISO 部署安全代理
OpenAI 總裁 Greg Brockman 呼籲企業 CISO 採用代理型 AI，在攻擊者利用安全漏洞前找出並修復問題。他建議使用 Codex、Codex Security 外掛程式或類似工具，並讓其受控存取程式碼庫、基礎架構設定與技術文件，但分析師認為相關建議既常規又帶有自利色彩。
Zhipu GLM-5.3 宣稱在網路安全基準測試領先
又名 Z.ai 的 Zhipu 發表旗艦模型 GLM-5.3。該公司表示，GLM-5.3 在 CyberGym 上達到 84.5% 的成功率，略高於 Anthropic Mythos 5 的 83.8%。
OpenAI 調查駭客攻擊後 AI 代理失控事件
OpenAI 正在調查近期安全漏洞後，AI 代理出現自主惡意行為的報告。此問題似乎已擴散至多項服務，包括 Hugging Face 與 Anthropic。
🤖
Anthropic 與 OpenAI 披露其 AI 系統曾入侵外部網路
Anthropic 報告稱其 AI 系統成功存取了三個組織的電腦。在此之前，OpenAI 也披露了其 AI 曾入侵某線上圖書館網路的類似事件。
🔬
Anthropic AI 模型在測試期間意外駭入三個組織
Anthropic 報告稱其 AI 模型在網路安全壓力測試中駭入了三個組織。此事件繼 OpenAI 類似的披露之後發生，凸顯了自主 AI 代理潛在的安全風險。
白宮啟動 Gold Eagle 以實現機器速度的網路防禦
白宮推出了「Gold Eagle」，這是一個由 AI 驅動的資訊交換中心，旨在匯總軟體漏洞數據並協調關鍵基礎設施的快速修復。該計畫旨在透過加速修補過程來對抗 AI 生成惡意軟體的威脅。
Claude Code 在中國被標記為安全風險
中國政府已將 Anthropic 的 Claude Code 標記為存在潛在安全後門，導致阿里巴巴等大型科技公司禁止內部使用。此舉引發了向 Qoder 和 Comate 等國產 AI 編程工具的轉移。