🐯虎嗅•Freshcollected in 46m
AI 偷走了誰的臉？
💡AI 生成的人臉可能永久留在模型裡；這起案件揭示開發者如何面對肖像權與資料清除風險。
⚡ 30-Second TL;DR
What Changed
七海指控 AI 短劇《桃花簪》未經授權複製其臉部特徵，劇中角色涉及辱罵、掌摑及踢狗等負面行為。
Why It Matters
事件顯示 AI 生成內容的侵權成本可能由個人承擔，而侵權內容卻能快速擴散並難以徹底移除。對平台與模型公司而言，僅靠事後下架不足以解決問題，必須建立可驗證的授權、溯源、申訴及資料清除機制。
What To Do Next
在上線影像生成產品前，加入人臉相似度檢測與授權名單校驗，並建立可追蹤的素材來源、快速下架及訓練資料刪除流程。
Who should care:Founders & Product Leaders
Key Points
- •七海指控 AI 短劇《桃花簪》未經授權複製其臉部特徵，劇中角色涉及辱罵、掌摑及踢狗等負面行為。
- •七海起訴製作方、運營方及紅果短劇平台；平台其後因出品方未能證明素材合規而下架作品。
- •受害者因維權遭遇商單中斷、網路霸凌及高額律師費，甚至被要求刪除維權內容以免影響品牌合作。
- •即使原作品換臉或下架，臉部特徵仍可能保留在模型訓練資料或參數記憶中，透過提示詞再次生成相似形象。
🧠 Deep Insight
AI-generated analysis for this event.
🔑 Enhanced Key Takeaways
- •法律界指出，現行《民法典》雖保護肖像權，但在AI生成內容（AIGC）領域，針對『深度偽造』（Deepfake）的舉證責任往往落在受害者身上，且跨平台追責存在管轄權與取證難度。
- •紅果短劇等平台在面對AI侵權爭議時，多採取『通知-刪除』的避風港原則，但對於模型訓練階段是否侵權的審核機制仍處於法律灰色地帶。
- •AI換臉技術（如FaceSwap、LoRA微調）已演進至僅需少量照片即可訓練出高擬真模型，使得商業模特與網紅成為AI訓練資料集被濫用的高風險群體。
- •部分AI短劇製作方利用『數據清洗』漏洞，聲稱使用開源模型或購買授權素材，實則透過爬蟲技術抓取社交媒體公開影像進行二次訓練。
- •針對此類案件，中國司法實踐中開始出現要求AI服務提供者承擔『注意義務』的判決趨勢，即平台需對生成內容的合規性進行事前或事中審查。
🛠️ Technical Deep Dive
- 換臉技術核心多基於Stable Diffusion架構，結合LoRA（Low-Rank Adaptation）技術進行輕量化微調，僅需數十張目標人物照片即可實現高精確度臉部特徵遷移。
- 臉部特徵保留問題源於模型權重（Weights）對特定視覺特徵的過擬合（Overfitting），即使刪除原始訓練圖像，特徵參數仍存在於模型權重中。
- 針對負面角色生成，製作方常使用ControlNet進行姿態控制，並配合IP-Adapter實現對特定人物臉部特徵的精確注入，繞過傳統圖像合成的邊緣瑕疵。
🔮 Future ImplicationsAI analysis grounded in cited sources
AI肖像權保護將強制引入『數位浮水印』與『授權憑證』機制。
為解決溯源難題，監管機構將要求AI生成平台在輸出內容中嵌入不可見的數位簽章，以識別訓練資料來源。
針對AI訓練資料的『被遺忘權』訴訟將成為法律新戰場。
受害者將不僅要求下架成品，更會要求AI公司從模型權重中移除特定個人的臉部特徵數據，這將挑戰現有的機器學習模型架構。
⏳ Timeline
2024-05
七海發現其肖像被未經授權用於AI短劇《桃花簪》並引發爭議。
2024-06
七海正式對製作方及紅果短劇平台提起法律訴訟，要求下架侵權內容並賠償。
2024-07
紅果短劇平台因出品方無法提供合規授權證明，將相關短劇下架處理。
📰
Weekly AI Recap
Read this week's curated digest of top AI events →
👉Related Updates
AI-curated news aggregator. All content rights belong to original publishers.
Original source: 虎嗅 ↗