愛沙尼亞計畫為 AI 代理分配專屬識別號碼
愛沙尼亞將成為第一個為 AI 代理發放個人識別號碼的國家。此舉旨在改變 AI 代理冒充人類用戶的現狀，從而提升數位互動中的安全性與問責制。
Search
Tag: #ai-governance244 results
歐盟數據監管要求導致 Apple Intelligence 延遲發布
由於歐盟監管要求 Apple 必須與第三方 AI 服務共享用戶個人數據，Apple 決定延遲在歐盟地區推出 Apple Intelligence。同時，Jamf 的最新調查顯示，20% 的 IT 主管已遭遇 AI 相關的安全事故，凸顯了企業部署 AI 的風險。
Anthropic 調查：美國民眾強烈要求外部 AI 監管
Anthropic 發布了一項針對 52,000 名美國人的 AI 治理調查。結果顯示，公眾普遍認為 AI 必須受到監管，僅有 15% 的受訪者信任 AI 公司能進行自我管理。
Anthropic 限制 Fable 5 討論敏感主題
Anthropic 已對其 Fable 5 模型實施嚴格的安全護欄，禁止其回應與網路安全、生物學和化學相關的查詢。此舉凸顯了該公司在減輕雙用途前沿模型相關風險方面的重點。
AI 取代核武成為國防安全首要威脅
在香格里拉對話中，軍事官員將 AI 驅動系統視為關鍵威脅。主要擔憂在於這些系統大幅縮短了衝突中人類決策的時間。
🔬
OpenAI 發布前沿 AI 安全治理框架
OpenAI 推出了「前沿治理框架」(Frontier Governance Framework)，旨在將其 AI 安全、防護與風險管理實踐制度化。此框架將公司的內部運作與歐盟及加州的最新監管要求進行對齊。
AI 驅動的自主戰爭現實
本文探討了 AI 戰爭從理論推測轉變為聯合國討論的具體現實。文章強調自主系統正超越假設場景，進入實際開發與潛在部署階段。
提示詞與模型依賴債務的隱性風險
AI 系統正在累積新型態的技術債，特別是提示詞債與模型依賴債，這導致了高專案失敗率。與傳統程式碼債務不同，這些 AI 特有的問題具有分佈式、間歇性且在生產環境中難以監控的特性。
代理式生態系統中問責邊界的理論研究
本研究提出了一套用於管理代理式 AI 系統問責制的架構理論。文中探討了模組化 AI 介面如何影響組織責任與治理，並特別針對自動化環境中產生的「規則債務」問題進行了分析。
DXC 與 ServiceNow 合作推動企業級 AI 治理
DXC Technology 與 ServiceNow 攜手合作，旨在為企業級 AI 代理建立穩健的治理框架。此計畫重點在於管理 AI 代理在大規模決策時所帶來的風險。