🖥️Computerworld•較早收集於 32m
美國發布前審查前沿AI模型
💡美政府預審 DeepMind/xAI 模型—行政命令或強制所有 AI（48字）
⚡ 30-Second TL;DR
有什麼變化
CAISI 與 Google DeepMind、Microsoft、xAI 簽署預部署評估協議
為什麼重要
此政策強化政府對先進 AI 發布的監督，提升公眾信任但可能增加開發者 IP 風險及合規負擔。預期促進行業安全標準化，影響所有前沿模型開發商。
下一步行動
若開發前沿 AI，瀏覽 NIST 網站聯繫 CAISI 討論測試協議
誰應關注：Enterprise & Security Teams
關鍵要點
- •CAISI 與 Google DeepMind、Microsoft、xAI 簽署預部署評估協議
- •Anthropic 及 OpenAI 兩年前已加入類似合作
- •聚焦前沿 AI 能力評估及安全研究推進
- •白宮擬行政命令審查所有新 AI 模型如 Anthropic Mythos
- •專家指轉向主動安全但憂慮 IP 保護
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •CAISI（人工智慧安全研究所）的評估框架已整合至美國國家標準與技術研究院（NIST）的 AI 風險管理框架（AI RMF），旨在將自願性評估轉化為更具強制性的行業標準。
- •此次協議引入了針對「模型權重存取」的嚴格安全協議，要求企業在受控的虛擬環境中提供模型權重，以進行紅隊測試（Red Teaming）與漏洞掃描，而非僅限於 API 存取。
- •針對 xAI 的納入，反映了美國政府對開源與閉源模型混合部署模式的關注，特別是針對 Grok 系列模型在即時網路資訊處理中的潛在安全風險評估。
🔮 前景展望AI analysis grounded in cited sources
美國將強制要求所有前沿 AI 模型在發布前進行第三方安全認證。
白宮擬議的行政命令將把目前的自願性評估協議轉變為針對特定算力閾值以上模型的強制性合規要求。
AI 模型開發商將面臨更嚴格的智慧財產權保護與安全審查之間的法律衝突。
隨著政府要求存取模型權重進行審查，企業對於核心演算法與訓練數據洩露的擔憂將導致法律訴訟與合規成本增加。
⏳ 時間線
2023-10
拜登政府發布關於安全、可靠和值得信賴的 AI 開發與使用的行政命令，為 CAISI 奠定基礎。
2024-05
美國商務部與 OpenAI 及 Anthropic 簽署諒解備忘錄，啟動首批前沿模型安全評估合作。
2025-02
CAISI 發布首份前沿 AI 模型安全評估報告框架，確立了針對災難性風險的測試標準。
2026-05
CAISI 擴大合作範圍，正式將 Google DeepMind、Microsoft 及 xAI 納入預部署評估體系。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Computerworld ↗