Model Cards Alone Can’t Govern Open-Weight AI

•模型卡片最初由 Google 研究人員於 2018 年的一篇論文中提出，旨在促進機器學習模型開發過程中的透明度和問責制。
•Hugging Face 將模型卡片視為「邊界物件」，可供具有不同背景和目標的各種利害關係人（包括開發者、政策制定者和倫理學家）存取和理解。
•歐盟《人工智慧法案》於 2024 年正式通過，導入了分級風險分類機制，並要求企業提升 AI 系統的透明度與揭露義務，對全球 AI 治理產生重要影響。
•開放權重模型雖然能降低推論成本並提供部署自主權，但其主要挑戰在於開發者難以完全控制模型後續的修改，可能導致惡意使用或規避安全防護機制。
•國際標準如 ISO/IEC 42001（2023 年發布）為 AI 管理系統提供了框架，要求組織將 AI 治理制度化地嵌入其運作中，包括倫理審查、風險識別、透明報告和問責程序。

模型卡片本質上是 Markdown 文件，頂部包含 YAML 格式的元數據，用於在 Hugging Face 等平台上實現模型的發現和過濾功能。
模型卡片通常應描述模型的架構、版本、預期用途與潛在限制（包括偏見和倫理考量）、使用方法、訓練數據、訓練程序以及評估結果。
NVIDIA 提出了「Model Card++」作為下一代增強型 AI 模型卡片，旨在進一步提升 AI 透明度和倫理考量。
AI 治理框架強調「數據血緣」或「數據脈絡」追蹤，這涉及詳細記錄數據來源、轉換邏輯、特徵定義以及模型如何使用這些特徵，對於調試、合規性和可重現性至關重要。
量化技術（例如 MXFP4）可以顯著降低開放權重模型的 VRAM 需求，使其能夠在消費級硬體上運行。
部分開放權重模型支援「Harmony response format」，這是一種多通道訊息格式，可攜帶推理過程和工具呼叫，並提供 Chain-of-Thought 存取權限，有助於偵錯和建立信任。

AI 治理將從自願性倫理準則轉向更具法律約束力的法規和國際標準。

歐盟《人工智慧法案》於 2024 年通過，以及 ISO/IEC 42001 等國際標準的制定，顯示全球正朝向制度化和法律強制性的 AI 治理方向發展。

關於開放權重 AI 模型的辯論將會加劇，可能導致基於模型能力和潛在風險的差異化監管方法。

各國政府正努力平衡開放權重模型的創新優勢與其潛在的安全和濫用風險，部分官員考慮限制，而產業領袖則倡導開放。

AI 模型血緣追溯和生命週期管理將成為合規性和建立信任的關鍵技術要求。

現有治理缺口和 AI 應用日益複雜的特性，凸顯了在 AI 系統整個生命週期中追蹤模型血緣、對齊來源和實證行為的重要性。

2018

Google 研究人員提出「模型卡片」概念，旨在提升機器學習模型的透明度。

2019

歐盟提出《可信任 AI 倫理指導原則》，奠定 AI 倫理治理的七大原則。

2022-12

Hugging Face 強調模型卡片作為重要文件框架，並提出新的模型卡片模板。

2023-11

法德意三國發布聯合文件，建議以模型卡片對基礎模型進行監管。

2023-12

ISO/IEC 42001《人工智慧管理系統標準》發布，成為全球首個 AI 管理體系標準。

2024

歐盟《人工智慧法案》正式通過，引入基於風險的 AI 系統監管框架。

僅靠模型卡片無法治理開放權重 AI