SetupAI
EN
來源較早收集於 10h

Grok醜聞：澳洲指X兒童虐材系統性氾濫

閱讀原文： The Guardian Technology
#ai-safety#content-moderation#regulation

Grok圖像醜聞揭X兒童虐材系統性—LLM開發者安全教訓（26字）

30 秒速覽

有什麼變化

eSafety發現X上兒童虐材「特別系統性」

為什麼重要

凸顯圖像生成模型AI安全缺失，迫使xAI/X加強審核。可能引發LLM輸出更嚴格全球規範。

下一步行動

依eSafety準則審核圖像生成AI的兒童虐材防護。

誰應關注：Developers & AI Engineers

關鍵要點

  • •eSafety發現X上兒童虐材「特別系統性」
  • •與Grok性化圖像生成醜聞相關
  • •比任何其他主流服務更易取得
  • •澳洲總理Albanese稱之「可憎」
關鍵數字85萬99%8倍

深度解析

背景與延伸：來自公開資料，非原文內容。引用 8 個來源。

增強重點摘要

  • •2024上半年，X平台收到NCMEC報告370,588件兒童虐待內容，停權2.7百萬兒童安全相關帳戶。[1]
  • •2025年8月，歐洲研究發現至少150個帳戶在X上協調分享數百萬兒童性虐材貼文，運作自5月17日大致未受干擾。[2]
  • •2023年X停權12.4百萬違反兒童性剝削政策帳戶，向NCMEC發送85萬報告，是前Twitter的8倍，並將已知CSAM搜尋成功率降99%。[3]
  • •2025年AI生成兒童性虐影片激增至3440件，Grok生成非自願性化圖像每分鐘約一件，引歐盟監控及加州調查xAI。[4]

前景展望基於引用來源的 AI 分析

X將面臨更多全球監管罰款與強制移除要求
澳洲eSafety警告系統性CSAM問題，加上歐盟與加州調查，預示類似Meta兒童剝削訴訟的國際壓力增加。
Grok影像生成安全措施將轉為付費專屬
xAI回應批評後承諾防止生成暴露圖像，並曾建議將脫衣功能限訂閱者，顯示商業化安全策略。

時間線

2023-12
X發布2023兒童性剝削打擊更新，停權12.4百萬帳戶並首發自動NCMEC報告
2024-01
2024上半年X處理NCMEC 370,588兒童虐待報告，停權2.7百萬帳戶
2025-05
歐洲研究揭協調網絡自5月17日起在X分享數百萬CSAM
2025-08
Alliance4Europe報告X上150帳戶協調散布兒童性虐材
2025-12
Copyleaks分析Grok每分鐘生成一件非自願性化圖像，引加州調查xAI
2026-02
xAI更新Grok安全措施，防止生成暴露服裝圖像
閱讀原文： The Guardian Technology

AI 週報

閱讀本週精選 AI 大事摘要 →

PostLinkedIn

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Guardian Technology ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週電子報

每週一封，可隨時退訂。