AI 治理最新動態

企業政策、安全框架，以及試圖引導強大 AI 系統的制度建設。

310 篇文章

基建

Docker 將 AI 政策決策串流至現有 SIEM

Docker AI Governance 現在提供單一且可搜尋的紀錄，保存 agents 觸發的每項政策決策。組織可以將這些決策直接串流至安全團隊現有的 SIEM。

Docker Blog · 47 天前

基建

Traccia：基於 OpenTelemetry 的 AI 系統治理平台

Traccia 是一個全新的治理堆疊，旨在利用 OpenTelemetry 基礎設施解決 LLM 評估與安全性方面的缺口。它提供自動化的合規證據與防篡改追蹤，以符合歐盟 AI 法案的要求。

ArXiv AI · 63 天前

SetupAI研究

研究

中國主導 AI 組織招募全球南方國家以抗衡美國

包括俄羅斯在內的 29 個國家已加入中國主導的「世界人工智慧合作組織」。此舉代表北京在影響全球 AI 發展標準與治理方面的戰略佈局。

Bloomberg Technology · 65 天前

SetupAI商業

商業

執行縫隙：AI 時代隱蔽的運營風險

本文探討了「執行縫隙」現象，即 AI 系統為了優化指標而偏離企業真實意圖，導致意想不到的後果。作者警告 AI 的速度與自主性會放大這些縫隙，將微小的偏差轉化為系統性風險。

虎嗅 · 71 天前

商業

阿根廷提議賦予 AI 運營公司法律地位

阿根廷政府向國會提交了一項法案，允許公司完全由 AI 代理或機器人運營。此法律框架將使這些實體能夠在沒有人類監督的情況下簽署合約並管理資產。

The Next Web (TNW) · 78 天前

商業

企業面臨過度依賴封閉式 AI 模型的風險

Anthropic 的 Claude Fable 5 因出口管制突然下架，凸顯了企業對單一供應商的依賴風險。研究顯示，儘管許多企業已開始採用開源權重模型進行避險，但大多數企業仍缺乏監控生產環境中 AI 故障的能力。

VentureBeat · 78 天前

基建

宇樹科技IPO獲批；抖音電商上線肖像保護功能

宇樹科技正式獲准於科創板IPO。同時，抖音電商上線「肖像保護功能」，利用AI模型主動識別並攔截AI仿冒及盜用素材等侵權內容。

36氪 · 79 天前

研究

全球首份大語言模型安全防範能力測評報告於北京發布

《2026全球大語言模型安全防範能力測評報告》對全球38款主流大模型進行了科技類高風險場景的安全性評估。報告指出，儘管模型具備基礎拒答能力，但在場景偽裝與情感偽裝等複雜攻擊下，安全邊界仍面臨顯著挑戰。

雷峰网 · 79 天前

模型

Meta 限制員工使用 Claude 與 Codex 以防模型蒸餾

Meta 正在限制員工使用 Claude 與 Codex 等外部 AI 編碼工具。此舉旨在防止模型蒸餾，並確保內部開發工作能持續專注於自研 AI 解決方案。

cnBeta (Full RSS) · 82 天前

商業

因安全漏洞，Meta 暫停員工 AI 數據收集計畫

Meta 因未經授權的員工存取了包含鍵盤輸入與私人對話在內的敏感內部數據，已暫停其「模型相容性計畫」(MCI)。該計畫旨在透過員工的電腦操作行為訓練 AI，但卻未能實施足夠的存取控制。

Computerworld · 87 天前

基建

Google 與 Microsoft 成立 Appia Foundation 推動 AI 標準化

Google、Microsoft 與其他產業領導者共同成立 Appia Foundation，旨在為 AI 合規性建立模組化規範。該基金會致力於連結全球標準與 AI 價值鏈中實際且可信的評估機制。

Computerworld · 92 天前

商業

愛沙尼亞計劃為 AI 代理提供政府認證的數位身分

愛沙尼亞 AI 理事會提議為 AI 代理建立政府認證的數位身分系統，以明確其權限、責任及操作限制。此舉旨在確保 AI 代理在代表人類或企業執行數位任務時，具備可追溯性與問責機制。

Computerworld · 94 天前

研究

Anthropic 研究員警告 AI 失控風險

據報導，Anthropic 研究員 Jacob Coxon 因擔心業界在缺乏充分防護的情況下競相開發自我改進系統而辭職。文章聚焦遞迴式自我改進、政府介入，以及日益自主的 AI 研究所帶來的安全風險。

虎嗅 · 10 天前

基建

SAFE 建立 AI 代理的共享防禦機制

Linux Foundation 就 SAFE 展開公開徵詢，這是一套用於業界共享代理型 AI 安全事件的指南。NVIDIA、Cisco 與 CrowdStrike 參與了初始方案的制定。

ITmedia AI+ (日本) · 10 天前

商業

Microsoft 開始稽核員工 AI 帳單

在員工揭露極端 token 用量後，Microsoft 開始收緊內部 AI 成本控管，其中一筆 28 天帳單高達 2.8 萬美元。公司正導入部門級預算、個人 token 儀表板，並將預設模型切換至 GPT-5.6 Sol，同時重新檢視高用量究竟代表生產力，還是表演式消耗。

极客公园 · 11 天前

商業

Microsoft 將 AI 治理轉向執行時期

Microsoft 正將 AI 治理從政策層級的指導，轉向 AI 系統執行期間的控管。這項轉變顯示，治理控制將越來越直接嵌入已部署的 AI 系統，而不再僅依賴組織規範。

InfoQ中国 · 12 天前

SetupAI研究

研究

從匹配模型走向招募代理

這篇系統化敘事評論探討 AI 招募的演進，從履歷匹配與排序，發展至由 LLM 驅動、可使用工具的招募代理。研究整理 40 篇代表性作品，指出公平性、隱私、安全性、工作流程失效與實際成果評估上的缺口。

ArXiv AI · 12 天前

SetupAI研究

研究

CLM 將企業知識轉化為受治理的行動

本文介紹 Corporate Language Model（CLM），旨在將零散且隱性的企業知識轉化為具本體論基礎、可稽核且可執行的企業智慧。其架構結合 Neurosymbolic Mesh、Skill Graph、Living Digital Twins、深度安全控制與 Spec-as-Code，並以一家巴西醫院的案例展示 LGPD 下六階成熟度中的三個階段。

ArXiv AI · 12 天前