巴爾的摩起訴 xAI 因 Grok 深度偽造
巴爾的摩起訴 xAI 違反消費者保護法，未揭露 Grok 圖像生成風險。Grok 在 11 天內產生 300 萬張性化圖像，包括 2.3 萬張未成年圖像。這繼全球調查及美國青少年集體訴訟之後。
Search
Tag: #deepfakes60 results
Sora 影片生成器即將登陸 ChatGPT
OpenAI 的 Sora 影片生成器據報將整合至 ChatGPT 成為內建功能。目前僅限於其網站或獨立 App，使用率低於 ChatGPT，此舉類似去年新增圖像生成功能。此更新可吸引更多 ChatGPT 用戶，但也可能加劇 Sora 產生的深度偽造氾濫。
監督委員會敦促 Meta 收緊 AI 生成內容與深度偽造監管
Meta 監督委員會發布決定，呼籲公司盡快收緊並明確對 AI 生成內容與深度偽造影片的監管規則，尤其在戰爭、災難、選舉等高風險情境下。該機構指出，Meta 在標註和識別大規模 AI 生成內容方面存在明顯短板，特別在衝突與危機時期，可能誤導公眾認知。
阿拉斯加通過AI兒童色情與兒童社群媒體限制法案
阿拉斯加眾議院一致通過HB47，禁止AI生成兒童性虐待材料及兒童深度偽造內容，並對未成年人社群媒體使用施加限制，如晚上10:30至早上6:30宵禁、禁用成癮功能及年齡驗證加家長同意。該法案從原AI焦點擴大修正，仿效Utah模式後提交參議院。有些議員擔憂未諮詢平台即廣泛規範。
微軟新計劃辨識線上真實與AI內容
微軟推出新計劃，幫助辨識線上真實內容與AI生成內容。此計劃針對AI誘發欺騙，如白宮分享的抗議者操縱圖像，以及社群媒體上累積觀看的欺騙影片。
英國兒童遭遇露骨深度偽造內容激增
越來越多英國兒童舉報有人使用其外貌製作露骨深度偽造影像。Report Remove 表示，透過數位操控、AI 及「裸化」工具製作的私密影像近期快速增加。
Grok 因兒童深偽保護措施引發反彈
TechRadar AI 認為，Harry 和 Meghan 批評 Grok 是有道理的，因為 Grok 曾反對 Minnesota 一項針對兒童虐待性 AI 深偽內容的新法律。這場爭議凸顯出，若缺乏更嚴格的防護措施，AI 技術可能被掠食者利用。
AI 推動非洲網路犯罪工業化升溫
國際刑警組織表示，AI 已參與非洲 55% 的網路犯罪案件，使攻擊速度更快、規模更大，也更難追查。犯罪分子正利用生成式 AI 製作深偽影片、偽造身分、開設帳戶，並透過行動支付與社群媒體發動更複雜的詐騙。
政治競選中的 AI 深偽技術引發道德疑慮
政治候選人正越來越多地使用 AI 來生成假新聞與背書。專家們對錯誤資訊在民主進程中的規模與影響感到擔憂。
梅洛尼發布疑似AI生成內衣照警告危險
義大利總理喬治婭·梅洛尼在社群媒體上發布疑似AI生成的自身內衣照。藉此警告AI合成工具捏造圖像的危險性。梅洛尼稱此類工具「危險」，因應深偽造圖像疑慮上升。