美國司法部支持 xAI 挑戰 Minnesota「去衣」禁令
美國司法部已介入，支持 xAI 挑戰 Minnesota 禁止 AI「去衣」工具的法律。聯邦法官已聽取辯論，並表示將很快就 xAI 提出的初步禁制令申請作出裁決。
Search
Tag: #content-safety21 results
DiSCO 為文字生成圖像加入黑箱安全防護
DiSCO 是一種零樣本、黑箱式防禦方法，透過最佳化提示詞降低文字生成圖像模型產生有害內容的機率。它利用分佈導向的後綴擴展，以及安全與不安全圖像池的對比評分，在 I2P 基準測試中最多可降低 37.7% 的攻擊成功率。
AI 劇維權陷入重重困局
AI 劇日益被指控未經授權複製配音演員、遊戲角色、藝人及普通使用者的聲音與形象。權利人面臨訓練資料不透明、產業鏈責任分散、證據難以取得，以及賠償往往無法覆蓋維權成本等問題。
ByteDance 收緊 Seedance 著作權管控
ByteDance 已與美國電影協會簽署協議，強化 Seedance AI 圖像與影片生成工具的著作權保護。這項協議是在好萊塢片商指控該工具可能助長大規模侵權後達成的。
監督委員會敦促 Meta 收緊 AI 生成內容與深度偽造監管
Meta 監督委員會發布決定，呼籲公司盡快收緊並明確對 AI 生成內容與深度偽造影片的監管規則，尤其在戰爭、災難、選舉等高風險情境下。該機構指出，Meta 在標註和識別大規模 AI 生成內容方面存在明顯短板，特別在衝突與危機時期，可能誤導公眾認知。
西班牙要求調查X、Meta、TikTok AI兒童性虐材
西班牙政府要求調查X、Meta及TikTok，涉嫌利用AI製作並傳播兒童性虐待材料。總理桑切斯指責平台侵害兒童權利，誓言終止其法外狀態。此舉繼擬禁16歲以下使用社群媒體後。
美國加州成立AI監督部門 調查xAI露骨圖像
加州總檢察長羅布·邦塔正推出AI問責計劃，同時調查xAI的Grok未經同意生成露骨色情圖像，包括可能涉及未成年人的內容。辦公室上個月發出禁止令，全球監管機構也在審查。xAI推卸責任，仍允許付費用戶生成部分性化內容。
哩布哩布就 AI 生成涉黃擦邊內容致歉，稱已啟動專項排查與技術修復
哩布哩布 AI 在央視曝光 AI 應用涉黃生成漏洞後發表致歉聲明。公司承認複雜提示詞組合下存在生成不合規內容問題，已立即完成技術修復並封堵風險路徑。同時啟動內部專項排查，升級審核機制，並邀請用戶透過 support@liblib.ai 反饋。
Meta 秘密開發 AI 檢測工具對抗 AI 垃圾內容
Meta 正在 Meta AI 內開發 AI 檢測工具，用以辨識人工生成內容。這是因其生成式 AI 工具導致線上 AI 垃圾內容激增所致。此功能旨在區分真實與合成媒體。
OpenAI 成人模式：僅限色情文字
OpenAI 延遲推出的 ChatGPT 成人模式將在推出時支援辣味文字對話，但不包括圖像、語音或影片生成。一位未具名發言人將內容描述為「色情」而非「色情片」。該功能由 CEO Sam Altman 於十月宣布，在解決心理健康問題後放寬安全限制。