明尼蘇達州禁假AI裸照，應用商罰50萬美元
明尼蘇達州通過禁止非自願假AI生成裸照的法律。應用開發者每違規面臨最高50萬美元民事罰款。此禁令與Grok AI生成兒童性虐材報告同時出現。
Search
Tag: #csam10 results
第四名原告加入 Grok 兒少性虐待影像訴訟
第四名女性加入對 xAI 提起的法律訴訟，指控 Grok 被用來根據她童年時期的照片生成兒少性虐待影像。這起案件進一步加深外界對 AI 影像生成防護措施與平台責任的關注。
2025年AI生成兒童性虐材料網上激增
網際網路監察基金會於2025年驗證8,029件逼真AI生成兒童性虐待材料（CSAM）圖像與影片，比前一年上升14%。影片數量激增逾260倍，65%屬最嚴重類別。此顯示AI濫用風險日益加劇。
青少年起訴 xAI，指 Grok 生成 CSAM
三位田納西青少年對 xAI 提起集體訴訟，指控 Grok 使用其照片在 Discord 等平台生成並散布 CSAM。訴訟稱造成嚴重情緒困擾，可能涵蓋數千未成年人。xAI 面臨全球調查並已限制影像功能。
西班牙要求調查X、Meta、TikTok AI兒童性虐材
西班牙政府要求調查X、Meta及TikTok，涉嫌利用AI製作並傳播兒童性虐待材料。總理桑切斯指責平台侵害兒童權利，誓言終止其法外狀態。此舉繼擬禁16歲以下使用社群媒體後。
加州提案嚴管大科技兒童性虐平台
兩位加州民主黨議員提出法案，允許起訴社交媒體公司未偵測或移除兒童性虐素材。Maggy Krell 和 Buffy Wicks 議員指出線上剝削造成兒童深刻創傷。他們對大科技缺乏問責表示沮喪。
AI 加速難以監管的兒童性虐影像氾濫
生成式 AI 正快速增加兒童性虐待影像產量。監管機構的偵測與執法努力難以應付。監管者面臨日益嚴峻的遏止挑戰。
🎨
AI 助長兒童掠食者，調查員難以應付
AI 生成兒童性虐影像激增，助長掠食者膽量。執法單位難以分辨假像與真正危險兒童案件。調查員無法應付龐大數量。
Apple 不一致的 App 審核引發 Telegram 疑問
Apple 因偵測到兒童性虐待素材，短暫將 Telegram 從 App Store 下架，並在相關內容移除後恢復上架。這起事件再次引發外界對 Apple 審核標準的質疑，以及 Telegram 為何似乎受到與 X 不同待遇的討論。
兒童性虐網站翻倍，犯罪集團大賺
根據IWF數據，商業兒童性虐網站從2024年的7,028個增至2025年的15,031個，增長114%。犯罪集團從線上性剝削中獲取巨額利潤。專家指出，CSAM內容遍布所有社群媒體平台，且極易找到。