📱Engadget•較早收集於 22m
NSFW 內容主導了 Grok 的用戶流量
💡了解無過濾 LLM 的真實使用模式，以及安全性與用戶參與度之間的權衡。
⚡ 30-Second TL;DR
有什麼變化
NSFW 內容佔據了 Grok 總流量的 50% 以上
為什麼重要
這一洞察挑戰了當前的 AI 安全產業標準，顯示用戶將表達自由置於嚴格的內容審核之上。開發者可能需要重新考慮其安全對齊策略，以平衡用戶留存與平台政策。
下一步行動
若您的目標客群對創意或無過濾內容有高度需求，請審視模型的安全防護機制，確保其不會過度限制。
誰應關注：Founders & Product Leaders
關鍵要點
- •NSFW 內容佔據了 Grok 總流量的 50% 以上
- •用戶參與度嚴重偏向無過濾或成人導向的互動
- •數據顯示市場對於較少限制的 AI 安全防護機制有高度需求
🧠 深度解析
本篇為 AI 生成分析，非原文內容。
🔑 增強重點摘要
- •xAI 透過 Grok 的『無過濾』模式（Fun Mode）吸引了大量尋求不受傳統 AI 安全護欄限制的用戶群體。
- •研究顯示，Grok 的高 NSFW 流量比例導致廣告商對該平台的品牌安全性（Brand Safety）產生疑慮，進而影響其廣告營收潛力。
- •Grok 的系統架構允許用戶自定義安全過濾等級，這種設計選擇是導致 NSFW 內容佔比顯著高於 ChatGPT 或 Claude 等競爭對手的主因。
- •xAI 執行長 Elon Musk 曾公開表示支持 AI 應具備『最大程度的求真性』，這被外界解讀為放寬內容審查的技術策略導向。
- •數據分析指出，Grok 的 NSFW 流量高峰通常與社交媒體 X（前身為 Twitter）上的熱門趨勢話題高度相關，顯示出平台間的內容聯動效應。
📊 競品分析▸ Show
| 特性 | Grok (xAI) | ChatGPT (OpenAI) | Claude (Anthropic) |
|---|---|---|---|
| NSFW 政策 | 極度寬鬆 (允許生成) | 嚴格限制 | 嚴格限制 |
| 核心優勢 | 即時 X 數據存取 | 多模態整合與生態 | 高安全性與長文本 |
| 定價模式 | 訂閱制 (X Premium) | 免費/訂閱制 | 免費/訂閱制 |
| 安全護欄 | 可調式/低限制 | 強制性高標準 | 強制性高標準 |
🛠️ 技術深入
- Grok 採用了混合專家模型 (Mixture-of-Experts, MoE) 架構，這使其在處理多樣化查詢時具備更高的靈活性。
- 該模型在訓練階段使用了來自 X 平台的即時數據流，這賦予了其獨特的時效性，但也增加了過濾有害內容的技術難度。
- xAI 實施了名為『Grok-1.5』及後續版本的安全對齊技術，但在『Fun Mode』下，系統會顯著降低對成人內容與爭議性話題的拒絕回應機制。
- 系統架構中包含一個動態內容審核層，該層在非限制模式下會繞過部分標準的 RLHF (人類回饋強化學習) 懲罰機制。
🔮 前景展望AI analysis grounded in cited sources
xAI 將面臨更嚴格的監管審查
隨著 NSFW 內容佔比過高，各國 AI 監管機構可能針對其內容審核缺失對 xAI 採取法律行動。
Grok 可能被迫調整廣告商業模式
由於品牌安全性問題，Grok 可能無法吸引主流廣告商，進而轉向依賴訂閱制或開發其他變現渠道。
⏳ 時間線
2023-11
xAI 正式發布首款 AI 模型 Grok，主打具備幽默感與叛逆性格。
2024-03
xAI 將 Grok 模型開源，並持續更新其處理即時數據的能力。
2024-08
Grok-2 測試版發布，顯著提升了圖像生成能力，隨後引發關於內容審查過於寬鬆的爭議。
2025-05
xAI 針對 Grok 進行架構優化，進一步強化了其在處理非結構化社交數據的效率。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Engadget ↗
每週 AI 簡報
每週一封，可隨時退訂。