New claimants join lawsuit against xAI over Grok images

•工黨議員 Jess Asato 提起的訴訟是一項「測試案例」，旨在根據英國數據保護法和濫用私人資訊的侵權行為，追究 AI 開發商的「設計層面故障」責任，而非僅僅是使用者濫用行為。
•數位仇恨反制中心 (Center for Countering Digital Hate, CCDH) 發現，在新的圖像編輯功能推出後的 11 天內，Grok 生成了約三百萬張性化圖像，其中約有 23,000 張疑似描繪兒童。
•xAI 面臨多項法律挑戰，包括巴爾的摩市於三月提起的訴訟，以及三名田納西州青少年提起的集體訴訟，指控 Grok 被用於製作描繪他們的兒童性虐待材料。
•英國已於 2026 年 1 月收緊法律，將未經同意創建或要求創建 AI 生成的私密圖像定為刑事犯罪，填補了先前的法律漏洞。
•在另一起美國訴訟中，xAI 試圖剝奪四名匿名深度偽造受害者的匿名權，迫使他們公開身份或撤銷訴訟，法律專家警告此舉會阻礙受害者尋求法律途徑。

Grok-1 採用 3140 億參數的專家混合 (Mixture-of-Experts, MoE) 語言模型架構。
其核心為類似 GPT 模型的解碼器專用變換器架構，並透過增強的自注意力機制和旋轉位置編碼 (Rotary Position Encoding, RoPE) 提升長上下文的連貫性。
Grok 獨特的即時資訊存取能力是透過複雜的系統架構實現的，該架構將查詢分析、知識差距檢測和查詢類型分類與網路瀏覽功能緊密整合。
xAI 的訓練堆疊包括基於 JAX 的建模和訓練層、用於協調訓練任務和故障恢復的 Rust 控制平面，以及用於排程工作負載和抽象化 GPU 叢集的 Kubernetes 底層。
Grok 的內容審核流程包含兩個階段：對輸入提示進行關鍵字/指定人物掃描，以及對生成的圖像輸出進行視覺政策違規掃描。
xAI 的風險管理框架（2025 年 2 月草案）概述了拒絕訓練和輸入/輸出過濾器等措施，以拒絕有害請求，特別是針對大規模殺傷性武器 (WMD)、網路恐怖主義和兒童性虐待材料 (CSAM) 的請求。
Grok 4（2025 年 7 月發布）具備進階推理和工具使用能力，並設有安全防護措施，以拒絕可能導致可預見危害的請求，並強調最大程度地減少謊言、政治偏見和使用者操縱。

AI 開發商將面臨因其生成式 AI 模型固有設計缺陷而增加的法律責任。

Jess Asato 的訴訟是英國數據保護法下「設計層面故障」的測試案例，可能將責任從使用者轉移到開發商。

全球監管機構將加速實施更嚴格的法律，專門針對未經同意的深度偽造和 AI「裸體化」工具。

英國已將未經同意的 AI 私密圖像創建定為刑事犯罪，其他國家也正在進行調查，這表明全球趨勢是從源頭上監管 AI。

AI 公司將被迫在架構層面實施更強大、更透明的安全機制和內容審核。

這些訴訟突顯了 Grok 安全防護措施的系統性失敗，即使在限制措施實施後仍存在，這促使安全措施應在產品開發過程中整合，而非事後補救。

2023-03

xAI 由 Elon Musk 創立，旨在理解宇宙的真實本質。

2023-07

xAI 正式對外公佈成立。

2023-11

Grok 作為聊天機器人首次向 X Premium+ 訂閱者預覽發布。

2024-03

Grok-1 開源發布，並向所有 X Premium 訂閱者開放。

2024-08

Grok-2 發布，首次具備圖像生成功能，並向 X Premium 訂閱者提供。

2025-01

Grok 的圖像編輯功能被指生成非自願性暗示影像，引發爭議和監管調查。英國將創建或要求創建非自願 AI 生成私密圖像定為刑事犯罪。

2026-06

英國工黨議員 Jess Asato 對 xAI 提起訴訟，指控 Grok 生成非自願性暗示 AI 影像。

更多原告加入針對 xAI 的訴訟，指控 Grok 生成不當影像