企業面臨過度依賴封閉式 AI 模型的風險
Anthropic 的 Claude Fable 5 因出口管制突然下架，凸顯了企業對單一供應商的依賴風險。研究顯示，儘管許多企業已開始採用開源權重模型進行避險，但大多數企業仍缺乏監控生產環境中 AI 故障的能力。
Search
Tag: #ai-governance244 results
宇樹科技IPO獲批；抖音電商上線肖像保護功能
宇樹科技正式獲准於科創板IPO。同時，抖音電商上線「肖像保護功能」，利用AI模型主動識別並攔截AI仿冒及盜用素材等侵權內容。
全球首份大語言模型安全防範能力測評報告於北京發布
《2026全球大語言模型安全防範能力測評報告》對全球38款主流大模型進行了科技類高風險場景的安全性評估。報告指出，儘管模型具備基礎拒答能力，但在場景偽裝與情感偽裝等複雜攻擊下，安全邊界仍面臨顯著挑戰。
Meta 限制員工使用 Claude 與 Codex 以防模型蒸餾
Meta 正在限制員工使用 Claude 與 Codex 等外部 AI 編碼工具。此舉旨在防止模型蒸餾，並確保內部開發工作能持續專注於自研 AI 解決方案。
因安全漏洞，Meta 暫停員工 AI 數據收集計畫
Meta 因未經授權的員工存取了包含鍵盤輸入與私人對話在內的敏感內部數據，已暫停其「模型相容性計畫」(MCI)。該計畫旨在透過員工的電腦操作行為訓練 AI，但卻未能實施足夠的存取控制。
Google 與 Microsoft 成立 Appia Foundation 推動 AI 標準化
Google、Microsoft 與其他產業領導者共同成立 Appia Foundation，旨在為 AI 合規性建立模組化規範。該基金會致力於連結全球標準與 AI 價值鏈中實際且可信的評估機制。
愛沙尼亞計劃為 AI 代理提供政府認證的數位身分
愛沙尼亞 AI 理事會提議為 AI 代理建立政府認證的數位身分系統，以明確其權限、責任及操作限制。此舉旨在確保 AI 代理在代表人類或企業執行數位任務時，具備可追溯性與問責機制。
衡量 AI 代理之間的信任機制
這項研究提出了一種行為框架，透過合作任務中的成本驗證來衡量 AI 代理之間的信任。研究顯示，Claude Opus 和 GPT-5.1 等前沿模型展現出獨特的信任形成與恢復模式，直接影響系統的整體效率。
🔬
透過部署模擬預測 AI 模型行為
OpenAI 推出「部署模擬」（Deployment Simulation），這是一種利用真實對話數據在模型公開發布前預測其行為的新方法。此舉旨在增強安全協議並提高模型評估的準確性。
英國警員涉嫌利用 AI 偽造證據遭刑事調查
一名英國警員因涉嫌利用 AI 製作虛假證據，已被調離前線職務並接受刑事調查。這是英國首宗已知涉及執法人員濫用 AI 技術的案件。