基建
Serverworks 推出 AWS 生成式 AI 治理服務
Serverworks 推出協助企業在 AWS 環境中建立生成式 AI 使用規範的服務。方案包含最快一個月完成規範制定的選項。
ITmedia AI+ (日本) · 45 天前
AI 治理最新動態
企業政策、安全框架，以及試圖引導強大 AI 系統的制度建設。
310 篇文章
SetupAI研究
研究
讓 AI 成為組織中的持續異議者
文章主張，AI 應持續揭露風險並質疑組織偏差，而不應成為最終決策者。作者建議將 AI 的風險偵測與解釋權，和批准不可逆行動的權力分離。
虎嗅 · 45 天前
SetupAI商業
商業
Amazon AI 專案超支數百萬美元，五個月後才被發現
Amazon 發現多起因 AI 部署失誤與成本控管不足而導致的嚴重預算超支案例。其中一個使用 Claude Sonnet 的專案支出180萬美元，超出預算860%，其他專案也產生了意外成本。
IT之家 · 46 天前
影片
中國清理逾 1.33 萬條 AI 魔改影片
中國國家廣播電視總局公布，7 月清理逾 13,300 條違規 AI 魔改影片，並處置超過 30 個帳號。治理工作聚焦於扭曲經典作品、歷史、文化符號或兒童動畫形象的 AI 生成內容。
IT之家 · 46 天前
商業
英國考慮要求企業取得 Bossware 使用同意
英國正考慮要求雇主在部署 Bossware 與其他職場監控工具前，先徵求員工同意。相關措施可能涵蓋 AI 生產力評分、按鍵記錄、生物識別及其他監控技術。
The Register - AI/ML · 46 天前
SetupAI應用
應用
NAB 準備測試 AI 代理的安全防護機制
National Australia Bank 即將測試一套代理式 AI 平台的安全與營運防護機制。這項計畫顯示 NAB 正準備更廣泛地將 AI 代理部署至銀行客戶服務中。
Bloomberg Technology · 46 天前
研究
Demis Hassabis 呼籲在 AGI 到來前採取緊急行動
Google DeepMind 執行長 Demis Hassabis 警告，我們正處於 AGI 到來前的關鍵窗口期。他強調需要採取緊急安全措施，以確保對先進 AI 系統的控制。
TechRadar AI · 57 天前
商業
中國人工智能發展戰略：國際公共產品路徑
本文分析了中國將人工智能定位為「國際公共產品」的戰略理念，並將其與科技巨頭主導的壟斷模式進行對比。文章強調中國透過「世界人工智能合作組織」等倡議，致力於推動包容性、可持續的全球智能發展與治理。
虎嗅 · 63 天前
商業
AI 驅動下專家系統的權威轉移
本文探討了 AI 生成的「定向建議」如何顛覆醫療、法律等領域的傳統專家與客戶關係。文章指出，AI 正在將專業服務的價值從「知識」轉移至「擔責」。
虎嗅 · 66 天前
SetupAI研究
研究
OpenAI 提出美國 AI 安全的「反向聯邦制」方針
OpenAI 提倡採用「反向聯邦制」模式來管理美國的 AI 發展。此方針旨在利用州級法規來協助形塑並建立一套全國性的安全與民主 AI 治理架構。
OpenAI News · 66 天前
應用
Demis Hassabis 設定 AI 監管時間表
Demis Hassabis 對 AI 監管與安全框架表達了新的緊迫感。此外，本次更新介紹了如何利用 Grok 構建用於客戶接待的無程式碼語音代理。
The Neuron · 66 天前
SetupAI商業
商業
AI 時代實現無限審查，揭示系統性缺陷
AI 大幅降低了多角度審查的成本，揭示了沒有任何複雜系統能經受住無限審查。這種轉變迫使企業從追求「完美」系統，轉向在缺陷不可避免的環境中進行風險管理。
虎嗅 · 67 天前
商業
Meta 可能即將限制每位工程師的 AI Token 使用額度
Instagram 負責人 Adam Mosseri 表示，企業未來將需要像管理薪資或營運支出一樣，嚴格控管 AI Token 的消耗量。工程師未來可能面臨與基礎設施預算類似的嚴格使用限制。
TechCrunch AI · 67 天前
研究
AI Futures Project 發布 AI 2040 全面發展藍圖
AI Futures Project 發布了「AI 2040: Plan A」，這是一份基於情境的詳細藍圖，旨在將超級智慧的出現推遲至 2040 年。該報告強調美國與中國政府需採取協調行動，以管控 AGI 的發展時程。
AI Alignment Forum · 72 天前
商業
LayerX 將 AI 預算視為「第二人事費」以推動成長
LayerX 透過向全公司公開 AI 使用成本來實施徹底的透明化。他們將 AI 支出視為戰略資產而非單純的費用，藉此在保持資源管理效率的同時鼓勵創新。
ITmedia AI+ (日本) · 73 天前
商業
Expedia 擴展可靠 AI 代理的治理框架
Expedia 分享了其擴展 AI 的策略方法，強調從簡單預測轉向自主代理系統的過程。該公司實施了「代理發布」門禁機制，以確保生產環境中的安全性、治理與商業價值。
VentureBeat · 75 天前
商業
聯合國秘書長警告 AI 發展速度已超越全球監管能力
聯合國秘書長發出警告，指出人工智慧的快速發展目前已超越了現有的監管框架。他呼籲建立全球統一的規範，以確保 AI 的開發過程安全且符合倫理。
iTNews Australia · 75 天前
編程
據報導 Alibaba 禁止員工使用 Claude Code
Alibaba 已正式將 Anthropic 的 Claude Code 列為高風險軟體。此舉限制了公司內部對該 AI 編碼工具的使用。
TechCrunch AI · 77 天前
基建
AI 治理與網路安全技能的融合趨勢
網路安全產業的未來日益與保護及治理人工智慧系統的能力掛鉤。能夠彌合傳統安全與 AI 專屬治理之間差距的專業人才，正成為市場上最搶手的資源。
TechRadar AI · 78 天前
基建
企業級 AI 工廠中自主代理的治理之道
隨著 AI 代理從簡單的聊天介面演進為能跨企業系統執行複雜任務，它們帶來了重大的安全與治理挑戰。本文探討了實施強大框架以管理代理對敏感數據及業務操作存取權的必要性。
NVIDIA Developer Blog · 82 天前
SetupAI商業
商業
為何 AI 治理在規模化時至關重要
本文強調當 AI 代理在組織內規模化時，必須將其視為新員工來管理。文章強調了治理框架對於管理風險與效能的重要性。
iTNews Australia · 86 天前
研究
以人為本的 AI 策略能降低企業特質風險
本研究探討實施「以人為本的 AI」(HCAI) 策略如何透過將 AI 部署與利害關係人的期望保持一致，來協助企業降低特質風險。研究分析了 2015 年至 2023 年間中國上市公司的數據，發現 HCAI 能有效降低與 AI 整合相關的股票波動性。
ArXiv AI · 86 天前
基建
Meta 因私聊數據洩露緊急叫停內部「蒸餾」計畫
Meta 因傳出敏感私人聊天紀錄洩露，緊急叫停了旨在利用員工數據進行 AI 訓練的內部「蒸餾」計畫。此事件凸顯了企業在進行內部 AI 開發時，對於數據隱私與安全規範的擔憂。
量子位 · 88 天前
研究
Public First 報告：中國在 AI 認知度上處於領先地位
根據 Public First 的最新報告顯示，在受訪的 15 個國家中，有 11 個國家的多數民眾認為中國目前在 AI 能力與創新方面領先於美國。
The Next Web (TNW) · 92 天前
模型
Anthropic 旗下 Mythos 5 與 Fable 5 服務暫停
Team Mirai 的安野貴博針對 Anthropic 旗下 Mythos 5 與 Fable 5 模型突然停止服務一事發表評論。他強調，AI 開發的「牧歌式」時代已經結束。
ITmedia AI+ (日本) · 93 天前
應用
愛沙尼亞計畫為 AI 代理分配專屬識別號碼
愛沙尼亞將成為第一個為 AI 代理發放個人識別號碼的國家。此舉旨在改變 AI 代理冒充人類用戶的現狀，從而提升數位互動中的安全性與問責制。
The Next Web (TNW) · 94 天前
商業
歐盟數據監管要求導致 Apple Intelligence 延遲發布
由於歐盟監管要求 Apple 必須與第三方 AI 服務共享用戶個人數據，Apple 決定延遲在歐盟地區推出 Apple Intelligence。同時，Jamf 的最新調查顯示，20% 的 IT 主管已遭遇 AI 相關的安全事故，凸顯了企業部署 AI 的風險。
Computerworld · 96 天前
研究
Anthropic 調查：美國民眾強烈要求外部 AI 監管
Anthropic 發布了一項針對 52,000 名美國人的 AI 治理調查。結果顯示，公眾普遍認為 AI 必須受到監管，僅有 15% 的受訪者信任 AI 公司能進行自我管理。
cnBeta (Full RSS) · 98 天前
模型
Anthropic 限制 Fable 5 討論敏感主題
Anthropic 已對其 Fable 5 模型實施嚴格的安全護欄，禁止其回應與網路安全、生物學和化學相關的查詢。此舉凸顯了該公司在減輕雙用途前沿模型相關風險方面的重點。
Ars Technica AI · 102 天前
研究
AI 取代核武成為國防安全首要威脅
在香格里拉對話中，軍事官員將 AI 驅動系統視為關鍵威脅。主要擔憂在於這些系統大幅縮短了衝突中人類決策的時間。
The Next Web (TNW) · 110 天前