Meta 廣告出現 AI 生成的兒童性虐待 सामग्री
研究人員在 Meta 旗下平台發現超過 50 則包含 AI 生成兒童性虐待材料、且違反 Meta 政策的廣告。這些發現凸顯平台與自動化系統在審核合成虐待內容方面的漏洞。
Search
Tag: #child-safety85 results
Meta 廣告出現 AI 生成的兒童性虐待影像
根據 Meta 廣告資料庫資料，Facebook、Instagram、Messenger 與 Threads 上出現超過 50 則含有 AI 生成兒童性虐待影像的廣告。據報部分廣告直到本週仍在投放。
歐盟擬出手整治TikTok、Instagram的「上癮式設計」以保護未成年人
歐盟正加大對社交媒體平台的監管力度，計劃集中打擊 TikTok 和 Instagram 等應用中針對未成年人的「上癮式設計」功能。歐盟委員會主席馮德萊恩在丹麥「人工智能與兒童」歐洲峰會上表示，將在今年晚些時候採取行動並推動監管落地。
科技巨頭抨擊歐盟兒童性虐掃描法失效
歐盟議會阻擋臨時法律延長，該法允許科技公司使用自動化工具掃描訊息偵測兒童性虐素材（CSAM）。法律於4月3日到期，因隱私疑慮未獲延長，Google、Meta、Snap和Microsoft強烈批評。專家預測虐待報告將大幅減少，類似2021年的58%跌幅。
💼
OpenAI 推出兒童安全藍圖
OpenAI 推出兒童安全藍圖，這是一份負責任建構 AI 系統的路線圖。它著重實施安全保障、適合年齡的設計，並促進合作來保護並賦予年輕使用者線上權力。
阿拉斯加通過AI兒童色情與兒童社群媒體限制法案
阿拉斯加眾議院一致通過HB47，禁止AI生成兒童性虐待材料及兒童深度偽造內容，並對未成年人社群媒體使用施加限制，如晚上10:30至早上6:30宵禁、禁用成癮功能及年齡驗證加家長同意。該法案從原AI焦點擴大修正，仿效Utah模式後提交參議院。有些議員擔憂未諮詢平台即廣泛規範。
AI 正把兒童動畫變成有毒內容
文章探討 AI 生成短影音如何利用兒童熟悉的角色，套入暴力、性化或荒誕情節來吸引年幼觀眾。由於推薦系統會放大點擊，而兒童的媒體辨識能力有限，這些影片可能讓攻擊行為、惡意玩笑與不當用語逐漸正常化，同時繞過薄弱的家長控制機制。
英國兒童遭遇露骨深度偽造內容激增
越來越多英國兒童舉報有人使用其外貌製作露骨深度偽造影像。Report Remove 表示，透過數位操控、AI 及「裸化」工具製作的私密影像近期快速增加。
Grok 因兒童深偽保護措施引發反彈
TechRadar AI 認為，Harry 和 Meghan 批評 Grok 是有道理的，因為 Grok 曾反對 Minnesota 一項針對兒童虐待性 AI 深偽內容的新法律。這場爭議凸顯出，若缺乏更嚴格的防護措施，AI 技術可能被掠食者利用。