⚛️Ars Technica AI•最新收集於 15m
Meta Ads 推廣可製作女性政治人物裸照的應用程式
💡這是色情深偽內容可能繞過廣告平台防護機制的真實警訊。
⚡ 30-Second TL;DR
有什麼變化
據報導，Meta Ads 刊登了宣傳製作非自願裸照應用程式的廣告。
為什麼重要
這起事件可能加大平台在廣告發布前偵測並阻擋色情深偽內容的壓力。AI 開發者也可能面臨更高的要求，必須防止影像生成與臉部操控系統遭到濫用。
下一步行動
在你的影像生成安全評估套件中，加入針對非自願色情內容提示詞與政治人物冒充情境的自動化測試。
誰應關注：Enterprise & Security Teams
關鍵要點
- •據報導，Meta Ads 刊登了宣傳製作非自願裸照應用程式的廣告。
- •其中一則廣告使用了外貌酷似美國政治人物的色情深偽影像。
- •此事件凸顯平台在合成色情影像與政治人物相關內容上的審核及廣告治理風險。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •這類應用程式通常利用開源的深度偽造（Deepfake）模型，如 Stable Diffusion 結合特定 LoRA 微調技術，專門針對衣物移除（Undressing）進行訓練。
- •Meta 的廣告審核系統在偵測此類惡意廣告時，常因廣告素材採用隱晦的視覺呈現或在審核後才替換落地頁內容（Cloaking）而失效。
- •此類事件促使美國立法者加強對《防止親密影像未經同意散布法案》（DEFIANCE Act）的推動，旨在針對生成非自願性影像的開發者與平台課責。
- •資安研究人員指出，這些廣告不僅針對政治人物，亦常被用於針對一般民眾的勒索軟體攻擊或詐騙鏈結。
- •Meta 在事件爆發後，已更新其廣告政策，明確禁止推廣任何具備「脫衣」功能的 AI 應用程式，並加強了對生成式 AI 廣告內容的自動化掃描機制。
🛠️ 技術深入
- 核心技術架構：多數此類應用採用基於擴散模型（Diffusion Models）的修復（Inpainting）技術。
- 訓練數據：利用大規模公開的成人影像數據集進行微調，並透過遮罩（Masking）技術精準定位衣物區域進行像素替換。
- 規避手段：廣告商常使用廣告投放中的「跳轉頁面」技術，在審核階段顯示無害內容，待審核通過後自動跳轉至惡意應用程式下載頁面。
🔮 前景展望AI analysis grounded in cited sources
大型社群平台將強制要求所有生成式 AI 廣告進行數位浮水印標記。
為了應對深偽技術帶來的政治與社會風險，監管機構將推動平台實施強制性的內容來源驗證標準。
針對 AI 生成非自願色情內容的法律訴訟將顯著增加。
隨著受害者保護意識抬頭及相關法案通過，針對開發者與廣告平台的集體訴訟將成為常態。
⏳ 時間線
2023-09
Meta 宣布禁止在廣告中推廣具備深偽功能的應用程式。
2024-05
Meta 導入 AI 生成內容標籤，要求廣告主揭露使用 AI 製作的影像。
2025-02
研究報告指出 Meta 廣告系統仍存在大量繞過審核的 AI 色情應用程式廣告。
2026-06
針對政治人物的深偽色情廣告事件引發公眾與監管機構強烈抗議。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Ars Technica AI ↗