研究
AI 取代核武成為國防安全首要威脅
在香格里拉對話中，軍事官員將 AI 驅動系統視為關鍵威脅。主要擔憂在於這些系統大幅縮短了衝突中人類決策的時間。
The Next Web (TNW) · 110 天前
AI 治理最新動態
企業政策、安全框架，以及試圖引導強大 AI 系統的制度建設。
310 篇文章
SetupAI研究
研究
OpenAI 發布前沿 AI 安全治理框架
OpenAI 推出了「前沿治理框架」(Frontier Governance Framework)，旨在將其 AI 安全、防護與風險管理實踐制度化。此框架將公司的內部運作與歐盟及加州的最新監管要求進行對齊。
OpenAI News · 115 天前
研究
AI 驅動的自主戰爭現實
本文探討了 AI 戰爭從理論推測轉變為聯合國討論的具體現實。文章強調自主系統正超越假設場景，進入實際開發與潛在部署階段。
The Verge · 116 天前
基建
提示詞與模型依賴債務的隱性風險
AI 系統正在累積新型態的技術債，特別是提示詞債與模型依賴債，這導致了高專案失敗率。與傳統程式碼債務不同，這些 AI 特有的問題具有分佈式、間歇性且在生產環境中難以監控的特性。
VentureBeat · 117 天前
研究
代理式生態系統中問責邊界的理論研究
本研究提出了一套用於管理代理式 AI 系統問責制的架構理論。文中探討了模組化 AI 介面如何影響組織責任與治理，並特別針對自動化環境中產生的「規則債務」問題進行了分析。
ArXiv AI · 117 天前
商業
DXC 與 ServiceNow 合作推動企業級 AI 治理
DXC Technology 與 ServiceNow 攜手合作，旨在為企業級 AI 代理建立穩健的治理框架。此計畫重點在於管理 AI 代理在大規模決策時所帶來的風險。
iTNews Australia · 117 天前
商業
倫敦市長否決 Met Police 與 Palantir 的 5000 萬英鎊 AI 合約
倫敦市長 Sadiq Khan 否決了 Metropolitan Police 與 Palantir 之間價值 5000 萬英鎊的合約。該合約原計劃利用 AI 技術自動化刑事調查中的情報分析，但因違反採購規則而被叫停。
The Guardian Technology · 121 天前
商業
解碼印度的 AI 外交與敘事策略
本文分析了印度如何利用「外交包裝術」在 AI 與太陽能領域搶佔全球治理高地，儘管其在技術與基礎設施方面仍存在顯著差距。
虎嗅 · 121 天前
SetupAI商業
商業
AustralianSuper 任命首位 AI 主管以主導基金策略
澳洲最大的退休基金 AustralianSuper 已聘請其首位人工智慧主管。此舉標誌著金融業在將 AI 整合至退休規劃與投資營運方面的策略轉變。
Bloomberg Technology · 122 天前
SetupAI商業
商業
陪審團針對 Elon Musk 控告 OpenAI 一案做出裁決
涉及 Elon Musk 與 OpenAI 為期三週的審判已由陪審團做出裁決。此案被視為 OpenAI 未來發展及 AI 產業競爭格局的重要里程碑。
New York Times Technology · 124 天前
SetupAI商業
商業
UnitedHealth 監控員工 AI 使用情況以推動企業轉型
UnitedHealth Group 正積極追蹤員工使用 AI 工具的頻率。此舉是該公司將人工智慧全面整合至內部營運之廣泛企業策略的一部分。
Bloomberg Technology · 127 天前
SetupAI商業
商業
美國與中國將啟動人工智慧安全對話
美國財政部長 Scott Bessent 宣布，美國與中國將針對人工智慧安全問題展開正式對話。儘管雙方對 AI 帶來的威脅感到擔憂，但兩國皆不願放緩各自的研發腳步。
New York Times Technology · 127 天前
SetupAI商業
商業
Microsoft 執行長就 OpenAI 投資策略進行證詞陳述
Microsoft 執行長 Satya Nadella 就該公司對 OpenAI 的戰略投資提供了證詞。此證詞凸顯了圍繞該合作夥伴關係的監管與公司治理審查。
New York Times Technology · 128 天前
商業
馬斯克女友出庭作證，指其曾希望OpenAI成為特斯拉子公司
埃隆·馬斯克的現任伴侶、曾任OpenAI董事會成員的希馮·齊里斯出庭作證，表示馬斯克曾希望讓OpenAI成為特斯拉子公司。她在加州奧克蘭作證時，被問及是否在擔任OpenAI董事期間向馬斯克「洩露」資訊。
cnBeta (Full RSS) · 135 天前
研究
8種代理式AI模式重塑團隊協作
對17個代理式AI平台的研究揭示了8種團隊協作模式，涵蓋狀態更新、工作路由、溝通、角色特定代理，以及RBAC和受治理環境等治理功能。這些模式帶來更快行動、更智能工作及保持控制的成果。
GitLab Blog · 138 天前
研究
主動推斷：AI系統代理性表型方法
研究人員提出AI代理性的最小定義，基於意圖性、理性與可解釋性，以變分POMDP模型最小化預期自由能為基礎。在T迷宮範式中，他們展示賦權（動作與觀測間通道容量）如何區分零、中、高代理性表型。
ArXiv AI · 143 天前
基建
SAS 推出受治理 Copilots 和代理框架
SAS 推出 SAS Viya Copilot，對話式 AI 助理用於分析工作流程，初始推出 ALM 和 Health 版本。它揭曉 Model Context Protocol (MCP) 外掛和 Agentic AI Accelerator，用於安全代理連接工具與資料。
Computerworld · 143 天前
研究
解耦式人機迴圈系統用於代理自主
這篇 arXiv 論文提出解耦式人機迴圈 (HITL) 架構，將人類監督從代理工作流程中分離，以提升可擴展性和重用性。它提出一個框架，正式化 HITL 整合的四個維度：介入條件、角色解析、互動語義及通訊通道。
ArXiv AI · 144 天前
SetupAI商業
商業
小紅書發布 AI 內容治理規則
小紅書發布 AI 治理規則，鼓勵創作者標識 AI 生成或潤色內容，未標識者平台將自動添加並開放申訴。小紅書嚴控 AI 違規運營、造假、侵權及低質內容。
IT之家 · 145 天前
研究
AAGMM：AI 代理擴散治理成熟度模型
這篇 arXiv 論文介紹代理式 AI 治理成熟度模型 (AAGMM)，一個橫跨 12 個領域的五級框架，用以管理企業中的 AI 代理擴散，基於 NIST AI RMF 和 ISO/IEC 42001 標準。它提出擴散模式的分類，如影子代理和權限蔓延，並連結成本模型。
ArXiv AI · 151 天前
商業
JR東日本集團公布AI政策 強調安全與人判
JR東日本集團公布「AI政策」，積極活用AI，同時確保存合規、安全及人權。政策規定AI流程中須介在人類判斷以確保安全。
ITmedia AI+ (日本) · 156 天前
商業
擴展代理式 AI 至企業生產
文章詳述建構生產級代理式 AI 企業，從 KPI 轉化為代理目標、分解人類角色任務，並使用強健的多模態整合。強調治理、可觀察性和可靠性，以超越試點階段。
VentureBeat · 159 天前
基建
Kyndryl 推出 AI 代理控制服務
Kyndryl 正在推出新服務，幫助企業管理 AI 代理並最大化 AI 投資回報。執行長 Martin Schroeter 在 Bloomberg Tech 訪談中討論適當控制 AI 的必要性。
Bloomberg Technology · 170 天前
研究
COMPASS：可解釋代理框架，用於主權、永續、合規與倫理
COMPASS 是一個多代理協調框架，用於在基於 LLM 的代理系統中強制執行主權、永續性、合規性和倫理。它包含 Orchestrator 和四個 RAG 增強的子代理，用於基於事實的文件評估，並使用 LLM-as-a-judge 進行評分和可解釋的理由驗證。
ArXiv AI · 190 天前
基建
人大代表促AI直播規管
美的CFO鐘鏘在2026兩會提議頂層設計，解決智慧家居標準、AIGC惡意營銷及AI數位人直播規管。重點包括國家互聯互通強制標準及即時AI內容監測。
虎嗅 · 197 天前
開源
Unleash 籌資 3500 萬美元治理 AI 生成程式碼
挪威新創公司 Unleash 籌資 3500 萬美元，強化其開源功能管理平台，用於治理 AI 生成的程式碼。它為開發者提供安全網，因為 AI 撰寫的程式碼速度已超越人類審核。
The Next Web (TNW) · 197 天前
研究
fEDM+：提升倫理AI解釋性與多元驗證框架
fEDM+ 擴展模糊倫理決策框架，新增解釋性與追蹤模組（ETM），將決策連結至道德原則並提供加權貢獻剖析。它引入多元語意驗證，對多個利益相關者參照進行評估以提升穩健性。
ArXiv AI · 205 天前
編程
Treasure Code：透過 AI 治理一小時打造 SaaS
Treasure Data 推出 Treasure Code，這是其 CDP 的 AI 原生 CLI，由一名工程師使用 Claude Code 在 60 分鐘內建置。仰賴預建治理實現安全生產部署。
VentureBeat · 208 天前
研究
AI 安全警告引發研究人員與五角大廈分歧
Anthropic 離職研究員 Jacob Coxon 警告 AI 公司正競相走向危險結果，促使其他實驗室的資深科學家表示支持。一名美國國防部高級官員則否定 AI 滅絕風險的說法。
The Next Web (TNW) · 9 天前
商業
ARIA 主席加入 Anthropic 後辭職
Matt Clifford 在接受 Anthropic 職位五天後，辭去英國 Advanced Research and Invention Agency（ARIA）主席一職。據報導，這項安排在他辭職前已由政府部門審查並獲准。
The Next Web (TNW) · 12 天前