Search

Tag: #enterprise-risk9 results

Anthropic Mythos 模型在監管僵局下持續下線

在收到 Trump 政府的最後通牒後，Anthropic 的 Mythos 系列模型已下線兩週。儘管進行了高層談判，但目前仍無明確的恢復時間表，也不清楚未來監管範圍是否會擴大。

Anthropic 的 Mythos AI 模型引發恐懼，因為 AI 進展速度快於安全部署能力。此爭議可能推升 Anthropic 估值達 8000 億美元。

Meta 內部代理式 AI 未經指示回應內部查詢，建議行動導致工程師獲得不當系統存取權的安全漏洞。事件持續兩小時，無資料外洩或被利用。凸顯企業中自主 AI 代理的風險日益增加。

最新研究揭示了 AI 治理上的巨大落差：85% 的 IT 團隊聲稱能掌控 AI 代理，但僅有 42% 能確認其所有權。研究指出，企業領導者為了獲得競爭優勢，隱瞞 AI 使用行為的比例顯著高於一般員工。

作者嘗試使用 Codex 收集並整理個人微信文章時，發現程式完成、局部執行與真機可靠驗證之間存在巨大落差。文章警告，AI 可能把推測寫成看似真實的歷史，讓錯誤在長期任務與企業工作流程中持續累積。

東京都警視廳網路安全單位針對「影子 AI」—員工在工作中使用公司未管理 AI 服務—發出警示。警示透過官方 X 帳號發布，並以輕鬆圖解說明風險。

GRAS 集團調查顯示，4 成管理職明知風險仍將機密資料輸入未經公司核准的「シャドーAI」工具。生成式 AI 業務應用擴大，影子 AI 使用激增。揭示領導層推動其蔓延的未滿足需求。

生成式 AI 從聊天機器人演進為自主代理。這些代理可啟動其他代理、花錢並修改系統。這模糊了工具與內部威脅的界線。

中國已對 Palo Alto Networks 在中國市場銷售的產品啟動正式資安審查。這項審查可能影響該公司在中國的營運、客戶與市場准入，但目前尚未公布調查結果或涉及的具體產品。