OpenAI Releases Frontier Governance Framework for AI Safety

•OpenAI 的框架被稱為「準備就緒框架」(Preparedness Framework)，其核心是透過嚴格的能力評估、監控以及建立問責與監督的治理結構，來管理前沿模型可能帶來的災難性風險。
•OpenAI 已承諾將至少 20% 的計算資源投入到 AI 安全倡議中，以確保其技術發展符合道德標準並保障人類福祉。
•加州的《前沿人工智慧透明法案》(SB 53) 特別針對計算能力超過 10^26 FLOPs 的前沿模型開發者，要求其發布透明度報告、事件報告、建立內部治理系統並提供吹哨人保護。
•歐盟《AI 法案》將 AI 系統分為不可接受、高風險、有限風險和最低風險等類別，並對高風險系統施加嚴格要求，包括風險管理、品質管理、數據治理和技術文件。

📊 競品分析▸ Show

特點/面向	OpenAI (前沿治理框架)	Google DeepMind (前沿安全框架)	Anthropic (負責任擴展政策)
核心焦點	內部安全、防護與前沿模型風險管理；與歐盟《AI 法案》及加州法規保持一致。	主動識別並減輕模型層面強大能力（例如卓越的自主性、複雜的網路能力）帶來的嚴重風險。	開發可靠、可解釋、可控的 AI 系統；預防災難性風險。
關鍵組成部分	準備就緒框架、嚴格的能力評估、監控、問責與監督治理結構、20% 計算資源用於安全。	識別關鍵能力水平 (CCLs)、安全緩解措施（防止模型權重外洩）、部署緩解措施（安全微調、濫用過濾）。	嚴格測試（壓力測試、對抗性測試）、即時監控、可解釋性工具（SHAP、LIME）、針對 CBRN/自主研發等災難性風險的能力閾值。
法規對齊/影響	明確與歐盟《AI 法案》和加州不斷演變的 AI 法規（例如 SB 53）對齊。	框架具探索性，預計將隨產業、學術界和政府合作而演進。	負責任擴展政策 (RSP) 作為內部指南，並作為產業範圍內安全標準的典範。
透明度/報告	發布前沿模型（例如 GPT-4o 記分卡）的準備就緒評估結果。	承諾定期審查和更新框架。	透明度中心詳細說明網路安全保障、部署後監控和風險識別。

AI 安全治理將趨向全球性的法規趨同與標準化。

OpenAI 框架與歐盟及加州法規的對齊，加上競爭對手也推出類似框架，預示著 AI 安全標準將朝向共同方向發展。

前沿 AI 開發者的公眾信任度與問責制將顯著提升。

該框架強調透明度、事件報告和結構化風險管理，旨在建立用戶和監管機構的信心。

全球 AI 安全領域可能出現「競相爭優」的局面。

隨著領先的 AI 實驗室和司法管轄區建立強大的安全框架，其他參與者可能會效仿，以保持競爭力並履行責任。

2015

OpenAI 成立，旨在為人類福祉推進 AI 技術。

2022-12

OpenAI 發布 ChatGPT，引發「AI 軍備競賽」，並提升對 AI 安全的關注。

2023-07-21

OpenAI 與其他領先 AI 實驗室共同承諾促進 AI 安全、保障和信任。

2023-10-26

OpenAI 詳細說明其不斷演變的前沿風險緩解方法，包括開發「準備就緒框架」。

2025-09-29

加州州長 Gavin Newsom 簽署《前沿人工智慧透明法案》(SB 53)，建立美國首個針對先進 AI 系統的可執行監管框架。

2026-05-27

歐盟《AI 法案》中高風險 AI 系統的義務實施日期被推遲，獨立的附錄 III 系統的合規日期延至 2027 年 12 月 2 日，而嵌入受監管產品（附錄 I）中的 AI 則延至 2028 年 8 月 2 日。

OpenAI 發布前沿 AI 安全治理框架