控制 API 型 AI 的隱性成本
這篇 arXiv 論文提出「受限主權」框架，用於評估組織透過受管理 API 使用模型、卻不擁有模型權重或基礎設施時的 AI 監督能力。合成實驗顯示，日誌、介入閘道、追蹤存取權與模型版本控制，會直接影響安全性、診斷能力及事故後問責。
Search
Tag: #risk-management112 results
OpenAI 解散災難性風險評估團隊
《金融時報》報導，OpenAI 於七月底關閉其 Preparedness team。該團隊原先負責評估模型可能造成的災難性風險並設計控制措施，相關工作將由現有團隊中的資深員工分散負責。
OpenAI 解散 Preparedness 團隊
據《金融時報》報導，OpenAI 於上月底解散了 Preparedness 團隊。評估生物安全與網路安全風險的責任，據稱已轉交給現有團隊負責。
🔬
量化「信仰」從何而來，又將走向何方？
量化私募連續多年取得亮眼收益後，於7月遭遇大幅回撤，部分明星產品單月下跌超過20%。文章指出，規模膨脹與小市值、高波動、高成長風格暴露，可能放大量化策略在風格反轉時的損失。
AI 治理需要可互通標準
這篇立場論文主張，AI 治理除了各司法管轄區的法律之外，也應採用類似 ISO 的互通協議。論文提出涵蓋偏誤、能源使用量與資料來源的機器可讀 AI 營養標籤，以簡化跨境合規並提升公眾信任。
歐盟取得檢查與封鎖 AI 模型的權力
第 V 章寬限期於 8 月 2 日結束後，歐盟執委會現在取得對通用型 AI 模型的執法權。執委會可在模型進入區域市場前要求評估、限制市場准入，並對供應商處以最高 1,500 萬歐元或全球年營業額 3% 的罰款。
⚙️
企業 AI 安全：需要一種「海狸精神」
文章指出隨著 AI Agent 獲得自主權，企業必須從「築牆」轉向「築壩」以管理風險。重點在於控制自動化系統的「災難半徑」，而非單純限制流動。
CHAI 發布醫療領域 AI 治理框架操作手冊
CHAI 聯盟發布了一份長達 228 頁的醫療 AI 治理框架，旨在協助醫療機構管理 AI 風險、生命週期及倫理部署。該手冊為政策制定、組織架構及第三方供應商管理提供了具體可行的操作指南。
OFAC發布制裁規避新指南
美國財政部OFAC發布了關於「虛假交易」和制裁規避的新指南，強調了識別受控實體的功能性方法。指南警告稱，信託等法律架構無法掩蓋受益所有權，以逃避美國監管審查。
英國監管機構警告：先進 AI 模型構成網絡安全風險
英國金融監管機構發布聯合警告，指出現代 AI 模型具備強大的網絡攻擊能力。報告特別點名 Anthropic 的 Mythos 可能對金融體系的穩定性構成威脅。