📰The Verge•最新收集於 0m
Trump 的 AI 測試框架將開放模型排除在外
💡美國擬議的 AI 安全框架，可能讓開放模型避開實質的網路安全測試。
⚡ 30-Second TL;DR
有什麼變化
據報導，這套自願性 AI 網路安全框架不測試可下載且可檢視核心元件的開放模型。
為什麼重要
開放模型開發者可能比封閉式前沿模型開發者面臨更少的發布前審查，形成不均衡的合規環境。實務人員不應將這項排除解讀為開放模型風險較低，因為下游濫用與部署風險仍然存在。
下一步行動
針對你部署的任何開放模型執行發布前紅隊與濫用測試，並獨立於聯邦框架記錄緩解措施。
誰應關注：Researchers & Academics
關鍵要點
- •據報導，這套自願性 AI 網路安全框架不測試可下載且可檢視核心元件的開放模型。
- •框架明確表示，模型發布後不能用它來限制開放模型。
- •這項計畫源自 Trump 於六月簽署的行政命令，要求 AI 公司在發布前向聯邦政府分享前沿模型。
- •據報導，其適用範圍可能造成對公開分發先進模型的監管缺口。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •該框架主要針對閉源模型（Closed-source models）的權重存取權進行審查，旨在防止國家級行為者利用模型進行網路攻擊。
- •產業專家指出，此舉反映了政府在『促進 AI 創新』與『國家安全監管』之間的妥協，試圖避免過度監管扼殺開源生態系統。
- •框架中關於開放模型的豁免條款，引發了國會兩黨對於『雙重用途』（Dual-use）AI 模型潛在風險的激烈辯論。
- •部分網路安全研究人員批評此框架，認為惡意行為者仍可透過微調（Fine-tuning）未受監管的開放模型來規避安全限制。
- •該政策制定過程中，曾與多家領先的 AI 實驗室進行閉門諮詢，最終決定將重點放在具備大規模算力訓練的前沿模型上。
🛠️ 技術深入
- 該框架定義的前沿模型門檻主要基於訓練算力（FLOPs），通常設定在 10^26 FLOPs 以上的訓練規模。
- 針對閉源模型的測試包含紅隊測試（Red Teaming），重點在於評估模型在編寫惡意軟體、漏洞利用及社會工程學攻擊方面的能力。
- 對於開放模型的豁免邏輯在於其權重已公開，政府認為針對已發布模型的強制性審查在技術上難以執行且缺乏法律強制力。
🔮 前景展望AI analysis grounded in cited sources
開源 AI 開發者將面臨更嚴格的出口管制而非國內監管。
由於國內框架排除開放模型，政府可能會轉向透過出口管制限制高性能硬體與先進模型權重的跨境流動。
未來將出現針對開源模型安全性的第三方認證標準。
政府監管的缺口將促使非營利組織與產業聯盟建立自願性安全標準，以填補監管真空。
⏳ 時間線
2026-06
Trump 簽署行政命令，要求 AI 公司在發布前向聯邦政府分享前沿模型資訊。
2026-07
政府相關部門啟動 AI 網路安全風險評估框架的公眾諮詢階段。
2026-08
正式發布 AI 網路安全框架，明確將開放模型排除在測試範圍之外。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Verge ↗