📲Digital Trends•最新收集於 32m
Meta 廣告庫出現 AI 生成虐待影像
💡生成媒體部署者必讀：Meta 的廣告防護據報未能攔截最嚴重的違規內容。
⚡ 30-Second TL;DR
有什麼變化
Meta 的廣告庫中出現 AI 生成的兒童性虐待影像。
為什麼重要
此事件凸顯分發或營利生成內容的平台面臨嚴重風險。建置內容審核、廣告或圖像生成系統的 AI 從業者，應將兒童安全控制視為阻止發布的必要條件，而非可選的防護措施。
下一步行動
針對你的圖像生成與廣告審核流程執行專門的兒童安全紅隊測試，並納入規避自動分類器的攻擊情境。
誰應關注：Enterprise & Security Teams
關鍵要點
- •Meta 的廣告庫中出現 AI 生成的兒童性虐待影像。
- •據報部分內容在 Meta 收到警告後仍持續存在。
- •這些發現延續了多年來的兒童安全失誤模式。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •研究人員指出，Meta 的廣告審核系統主要依賴自動化工具，這些工具在識別由生成式 AI 創建的逼真但非真實人物影像時，準確率顯著低於傳統影像。
- •此次事件引發了監管機構對《線上安全法》（Online Safety Act）執行力度的質疑，特別是針對廣告投放流程中缺乏人工審核環節的批評。
- •Meta 的廣告庫（Ad Library）設計初衷是為了提高透明度，但現在被濫用為傳播有害內容的管道，因為廣告內容的審核標準與一般社群貼文不同。
- •非營利組織與兒童安全倡議團體指控 Meta 在廣告營收與兒童保護之間存在利益衝突，要求對廣告審核演算法進行獨立第三方審計。
- •部分被發現的 AI 生成影像使用了開源模型技術，顯示出惡意使用者利用公開模型繞過大型平台安全防護機制的趨勢。
📊 競品分析▸ Show
| 特色/平台 | Meta (Facebook/Instagram) | Google (Ads) | TikTok (Ads) |
|---|---|---|---|
| AI 內容偵測 | 依賴自動化與檢舉機制 | 具備較嚴格的廣告政策審核 | 針對 AI 生成內容有強制標籤要求 |
| 廣告庫透明度 | 高（公開可搜尋） | 中（My Ad Center） | 中（Creative Center） |
| 兒童安全防護 | 頻繁面臨監管壓力 | 針對廣告主有嚴格年齡限制 | 針對未成年用戶有較多限制 |
🛠️ 技術深入
- Meta 使用基於深度學習的分類器（Classifiers）來掃描廣告圖像，但在處理 AI 生成的合成影像時，由於缺乏真實影像的特徵（如像素噪點、光影不一致），偵測率下降。
- 廣告審核流程中，Meta 採用了預測性 AI 模型來評估廣告是否違反政策，但在高流量廣告投放期間，系統可能為了降低延遲而減少了深度審核。
- 針對兒童性虐待影像（CSAM），Meta 依賴 PhotoDNA 等雜湊比對技術，但對於 AI 生成的全新影像，由於沒有原始檔案可供比對，傳統雜湊技術完全失效。
🔮 前景展望AI analysis grounded in cited sources
Meta 將被迫在 2027 年前全面升級廣告審核系統，納入強制性的人工審核環節。
持續的監管壓力與公眾輿論將迫使 Meta 改變目前過度依賴自動化審核的廣告投放模式。
全球監管機構將針對 AI 生成內容的廣告投放制定專屬的法律責任框架。
現有的廣告法規無法有效規範 AI 生成的有害內容，立法者將填補廣告平台在內容生成責任上的法律漏洞。
⏳ 時間線
2021-09
Meta 擴大廣告庫功能，要求所有政治與社會議題廣告必須公開揭露。
2023-11
Meta 宣布禁止廣告主使用生成式 AI 工具製作政治、選舉或社會議題廣告。
2024-05
Meta 導入 AI 生成內容標籤（Made with AI），要求創作者標記 AI 生成的影像。
2025-02
Meta 因廣告審核系統未能有效攔截詐騙廣告，遭多國監管機構聯合調查。
2026-07
研究人員向 Meta 報告廣告庫中存在 AI 生成的兒童性虐待影像。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Digital Trends ↗