🌍The Next Web (TNW)•較早收集於 17m
AI 模型儲存庫充滿惡意軟體
💡Hugging Face 惡意軟體感染 AI 管線—立即保護你的模型免於入侵。（48字）
⚡ 30-Second TL;DR
有什麼變化
Hugging Face 儲存超過 100 萬個 ML 模型，受大多數 AI 公司使用
為什麼重要
AI 開發者下載模型時面臨供應鏈攻擊風險升高，可能危害整個工作流程與資料。此事件動搖開放 AI 儲存庫的信任。
下一步行動
使用 ProtectAI Guardian 掃描所有 Hugging Face 模型，再載入管線。
誰應關注：Developers & AI Engineers
關鍵要點
- •Hugging Face 儲存超過 100 萬個 ML 模型，受大多數 AI 公司使用
- •數百個惡意模型可執行任意程式碼
- •模型與代理技能儲存庫均遭系統性入侵
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •攻擊者主要利用 Hugging Face 的 Pickle 序列化格式漏洞，透過在模型檔案中嵌入惡意 Python 程式碼，當使用者載入模型時自動觸發執行。
- •安全研究人員指出，除了惡意模型外，攻擊者還利用 Hugging Face 的『Spaces』功能部署偽裝成合法應用的惡意容器，以竊取 API 金鑰與雲端憑證。
- •Hugging Face 已採取多項防禦措施，包括引入惡意軟體掃描器、強制執行模型簽章驗證，以及針對 Pickle 檔案發出安全警告，但由於開源生態的開放性，防禦仍面臨巨大挑戰。
📊 競品分析▸ Show
| 特色/平台 | Hugging Face | Civitai | ModelScope |
|---|---|---|---|
| 主要定位 | 開源 AI 模型與應用中心 | 生成式 AI 模型（圖像為主） | 阿里巴巴開源模型庫 |
| 安全性機制 | 整合惡意軟體掃描與簽章 | 社群審核與報告機制 | 企業級安全審查 |
| 模型格式 | 支援多種 (Safetensors, Pickle) | 偏好 Safetensors | 支援多種 |
🛠️ 技術深入
- •攻擊核心：利用 Python 的
pickle模組在反序列化（unpickling）過程中的__reduce__方法，允許攻擊者在載入模型時執行任意系統指令。 - •防禦技術：推廣使用
safetensors格式，該格式僅儲存張量數據，不包含可執行程式碼，從根本上消除了反序列化攻擊風險。 - •偵測機制：Hugging Face 部署了基於 ClamAV 的掃描器，並結合靜態分析工具檢查模型檔案中是否存在可疑的 Python 函數呼叫。
🔮 前景展望AI analysis grounded in cited sources
Safetensors 將成為 AI 模型發布的強制性安全標準。
由於 Pickle 格式存在不可修復的架構缺陷，各大平台將逐步淘汰其支援以降低系統性風險。
AI 供應鏈安全審計將成為企業導入開源模型的必要流程。
企業無法再盲目信任公開儲存庫的模型，必須建立自動化的模型安全掃描流水線。
⏳ 時間線
2023-07
研究人員首次大規模揭露 Hugging Face 上存在惡意模型，利用 Pickle 漏洞執行遠端程式碼。
2024-02
Hugging Face 宣布全面加強安全性，包括引入惡意軟體掃描與模型簽章功能。
2025-05
Hugging Face 針對惡意軟體與釣魚攻擊，進一步強化 Spaces 的隔離機制與存取控制。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Next Web (TNW) ↗