🌐Wired•最新收集於 2h
Meta 廣告推廣可製作女性政治人物裸照的 App
💡Meta 廣告事件揭示有害深偽 App 如何在抵達用戶前就繞過平台防護。
⚡ 30-Second TL;DR
有什麼變化
Meta 的廣告系統投放了宣稱能將女性政治人物「脫衣」的 App 宣傳內容。
為什麼重要
這起事件凸顯廣告平台與 App 商店在處理非自願私密影像及政治深偽內容時的執法漏洞。若 AI 開發者與行銷人員未建立完善的濫用防護，可能面臨重大聲譽、法律及平台使用權風險。
下一步行動
在影像生成安全流程中加入同意、政治公眾人物及色情內容分類器，並在高風險輸出通過人工審查前封鎖廣告投放。
誰應關注：Developers & AI Engineers
關鍵要點
- •Meta 的廣告系統投放了宣稱能將女性政治人物「脫衣」的 App 宣傳內容。
- •其中一則廣告使用了高度近似美國知名政治人物的色情深偽影片。
- •WIRED 詢問後，Apple 將該 App 從 App Store 下架。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •該應用程式屬於一類被稱為「AI 脫衣」（AI undressing）的工具，這類軟體利用生成式 AI 技術，專門針對女性進行非自願的色情影像合成。
- •Meta 的廣告審核系統未能偵測出該廣告違反了其關於「性剝削」及「欺騙性內容」的政策，顯示出自動化審核機制在識別深偽（Deepfake）內容上的漏洞。
- •此事件引發了關於大型科技公司在廣告營收與平台安全責任之間平衡的廣泛批評，特別是在選舉期間對政治人物的保護措施。
- •除了 Apple 的 App Store，這類應用程式通常透過側載（Sideloading）或第三方網站傳播，規避了主流應用商店的審查機制。
- •研究人員指出，這類深偽工具的氾濫不僅威脅政治人物，更對一般女性造成嚴重的隱私侵犯與數位暴力風險。
🛠️ 技術深入
- 這類應用程式通常基於開源的擴散模型（Diffusion Models）進行微調，例如 Stable Diffusion。
- 核心技術涉及「圖像修復」（Inpainting）與「遮罩」（Masking）技術，系統會自動識別衣物區域並以皮膚紋理進行填充。
- 為了達到逼真的效果，模型通常會結合 LoRA（Low-Rank Adaptation）技術，針對特定人物的臉部特徵進行快速訓練與合成。
- 廣告投放系統的失敗部分歸因於對動態影片內容的語意理解能力不足，無法即時辨識出影片中人物的非自願裸露特徵。
🔮 前景展望AI analysis grounded in cited sources
Meta 將被迫加強針對生成式 AI 廣告內容的審查機制。
由於廣告審核漏洞導致的公關危機，Meta 必須投入更多資源於 AI 偵測工具以避免法律與監管壓力。
全球針對非自願深偽色情內容的立法將趨於嚴格。
此類事件頻發促使各國政府加速推動針對 AI 生成色情內容的刑事責任立法。
⏳ 時間線
2023-09
Meta 宣布禁止在廣告中使用生成式 AI 製作的政治廣告內容。
2024-02
Meta 承諾將開始標記由 AI 生成的圖像，以應對深偽技術帶來的選舉風險。
2024-05
WIRED 報導 Meta 廣告系統投放針對女性政治人物的 AI 脫衣 App 廣告。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Wired ↗