🦙較早收集於 64m

Hugging Face 模型實為惡意軟體

PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA

💡惡意軟體偽裝 HF 隱私模型—立即掃描下載檔案(24字)

⚡ 30-Second TL;DR

有什麼變化

Hugging Face 上假模型下載 PowerShell dropper

為什麼重要

凸顯未驗證 Hugging Face 模型風險,呼籲開源 AI 下載需謹慎。可能促使 HF 加強審核與社群警覺。

下一步行動

執行前使用 VirusTotal 掃描所有 Hugging Face 模型檔案。

誰應關注:Developers & AI Engineers

關鍵要點

  • Hugging Face 上假模型下載 PowerShell dropper
  • EXE 經分析為資訊竊取器:見 tria.ge 報告
  • 僅針對 Windows;Linux 不受影響
  • 已向 Microsoft 和 Hugging Face 舉報

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • 該惡意軟體利用 Hugging Face 的『pickle』序列化格式漏洞,透過在模型檔案中嵌入惡意 Python 程式碼,在使用者載入模型時自動執行惡意指令。
  • 資安研究人員指出,此類攻擊手法正從傳統的釣魚郵件轉向利用開源 AI 平台的高信任度,透過偽裝成熱門工具(如隱私過濾器)來規避企業防火牆的偵測。
  • Hugging Face 官方已針對此事件更新了其『安全掃描(Security Scan)』機制,並開始對所有上傳的 Pickle 檔案實施更嚴格的沙盒隔離與靜態分析。

🛠️ 技術深入

  • 攻擊載體:利用 PyTorch 的 torch.load() 函數在反序列化過程中執行任意程式碼的特性。
  • 執行流程:模型檔案內嵌惡意 __reduce__ 方法,當 Python 腳本呼叫 pickle.load() 時,該方法會觸發 PowerShell 指令。
  • 持久化機制:惡意軟體透過 Windows 工作排程器(Task Scheduler)建立名為『WinUpdateTask』的隱藏任務,確保系統重啟後自動執行。
  • 資料竊取:惡意 EXE 檔案會掃描瀏覽器 Cookie、密碼管理器資料庫以及加密貨幣錢包檔案,並透過加密通道回傳至攻擊者伺服器。

🔮 前景展望AI analysis grounded in cited sources

Hugging Face 將強制棄用 Pickle 格式作為預設模型儲存格式。
由於 Pickle 格式天生具有執行任意程式碼的風險,平台為了降低惡意軟體攻擊頻率,將加速推動 Safetensors 等更安全的格式。
企業將建立私有模型審核閘道(Model Gateways)。
為了防範供應鏈攻擊,企業將不再允許直接從公開平台下載模型,而是透過內部掃描與驗證機制進行中轉。

時間線

2023-02
Hugging Face 引入惡意軟體掃描功能,針對上傳的模型進行初步安全性檢查。
2024-05
Hugging Face 正式推廣 Safetensors 格式以取代不安全的 Pickle 格式。
2026-05
Open-OSS/privacy-filter 惡意軟體事件爆發,引發對開源模型供應鏈安全的廣泛討論。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA