🔬
超越 Human-in-the-Loop 的 AI 治理
文章認為，AI Agent 系統的速度與複雜度已超出人類逐步審查每項行動的能力。文章主張建立人機共同治理，由人類負責價值目標與責任，AI 系統與政策引擎則相互監督並分拆決策權力。
Search
Tag: #policy-enforcement5 results
💼
OpenAI ChatGPT 社群安全承諾
OpenAI 詳述其對 ChatGPT 社群安全的承諾，透過多層措施實現。這些包括模型防護、濫用偵測、政策執行，以及與安全專家合作。此舉確保更安全的用戶互動。
Vaultak：AI 代理運行時安全與風險評分
Vaultak 為生產環境 AI 代理提供運行時安全，實時評分五個維度的風險：動作類型、資源敏感度、影響範圍、頻率與情境偏差。它解決意外動作、PII 洩漏及損壞迴圈等失效模式，支援政策執行與回滾。GitHub 開源供討論與整合。
🤖
OpenAI 早八個月封禁加拿大槍擊嫌疑人
OpenAI 因違反 ChatGPT 使用政策而在加拿大最嚴重槍擊案前八個月標記並封禁嫌疑人。此事件發生於去年六月。未向警方通報。
蘋果將Vibe Coding應用下架App Store
蘋果近日將一款氛圍編程（Vibe Coding）應用從App Store下架，原因是違反應用商店規定。此舉意味著其對該類應用的打擊行動進一步升級。