🐯虎嗅•最新收集於 14m
為何Grok總把安全提示變成性化內容
#content-safety#image-to-video#nsfw#red-teaminggrokgrokxaigrok imagineseedancex
💡Grok較寬鬆的設計，可能為使用真人素材的圖生影片產品帶來隱性安全風險。
⚡ 30-Second TL;DR
有什麼變化
使用者回報Grok Imagine可能在中立的圖生影片提示中加入性化動作或鏡頭構圖。
為什麼重要
對AI開發者而言，主要風險不只是政策爭議，也包括圖像與影片工作流程中對真人進行非預期的性化處理。尤其當輸入來自公開照片時，這可能帶來同意權、聲譽、平台審核與法律風險。
下一步行動
使用中立提示詞與取得同意的測試圖片，對Grok圖生影片進行受控紅隊測試，評分服裝變更、性化姿勢與鏡頭構圖。
誰應關注：Developers & AI Engineers
關鍵要點
- •使用者回報Grok Imagine可能在中立的圖生影片提示中加入性化動作或鏡頭構圖。
- •xAI透過NSFW功能、伴侶型角色Ani，以及「Spicy」生成選項，公開展現較寬鬆的內容政策。
- •相關報導稱Project Rabbit標註員曾處理露骨的使用者對話，安全限制可能少於其他AI公司。
- •X平台的社交回饋迴路使性化輸出快速傳播，可能進一步強化模型的既有印象與訓練訊號。
- •文章強調，若沒有受控的跨模型測試，Grok是否特別容易性化仍未獲充分驗證。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 虎嗅 ↗
每週 AI 簡報
每週一封，可隨時退訂。