23,759 跨模態提示注入酬載開源

💡分割酬載規避多模態防禦—LLM 安全必看（48字元）

⚡ 30-Second TL;DR

有什麼變化

23,759 個酬載跨文字+影像+文件+音訊模態分割

為什麼重要

凸顯多模態 LLM 漏洞，敦促統一跨通道偵測。對建構強健防禦的安全研究者至關重要。

下一步行動

從 GitHub 下載酬載，並對您的多模態 LLM 偵測管線測試。

誰應關注：Researchers & Academics

AI-generated analysis for this event.

•該儲存庫採用了「分段式攻擊」（Fragmented Attack）策略，利用多模態模型在處理不同輸入通道時的注意力機制差異，使單一模態的防禦系統無法識別出完整的惡意意圖。
•研究顯示，該數據集特別針對了目前主流的視覺語言模型（VLM）在處理隱寫術（Steganography）與隱藏數據嵌入時的魯棒性漏洞，特別是在處理非標準文件格式時的解析器缺陷。
•此項目的核心貢獻在於提供了一個標準化的紅隊測試基準（Red Teaming Benchmark），旨在解決目前多模態安全評估中缺乏大規模、跨模態對抗樣本的問題。

•攻擊向量利用了跨模態對齊（Cross-modal Alignment）的弱點，透過將惡意指令拆解並隱藏於影像的 EXIF 數據、PDF 的 XMP 中繼資料以及音訊的頻譜隱寫中。
•該數據集採用了自動化生成框架，利用 LLM 進行對抗性提示詞（Adversarial Prompting）的變異與編碼混淆，以確保每個片段在單獨評估時均低於安全分類器的閾值。
•針對多模態 LLM 的推理過程，該攻擊透過在不同模態間建立邏輯鏈（Chain-of-Thought），迫使模型在整合多模態特徵時重組惡意指令，從而繞過輸入層的過濾器。