🌍The Next Web (TNW)•較早收集於 74m
Synthesia 與 Cinder 合作強化 AI 內容審核
💡了解如何將渲染前的安全檢查整合至您的生成式 AI 管線中，以降低內容風險。
⚡ 30-Second TL;DR
有什麼變化
在影片幀渲染前即時應用審核機制。
為什麼重要
這為負責任的 AI 影片生成樹立了新標準，降低了有害內容進入最終產出的風險。
下一步行動
若您正在開發生成式影片工具，請實作渲染前的審核掛鉤以確保符合安全規範。
誰應關注：Developers & AI Engineers
關鍵要點
- •在影片幀渲染前即時應用審核機制。
- •與 Cinder 合作強化 AI 影片的安全基礎設施。
- •維持自 2017 年以來建立的「創作時審核」模型。
🧠 深度解析
Web-grounded analysis with 15 cited sources.
🔑 增強重點摘要
- •Synthesia現有的內容審核系統，結合自動化工具與人工審查，在2025年審查了超過1,150萬份內容，移除了841,957個違反政策的項目，同時人工審查處理了額外的382,792個項目。
- •Cinder的AI原生平台作為「內部代理」，對Synthesia的模型決策進行第二次審查，收集上下文並僅在需要真正判斷時才將案件升級給人工審查員，從而優化了人工干預。
- •Cinder的AI代理旨在根據客戶的特定政策進行訓練，提供多模態覆蓋（文本、圖像、音頻、視頻、直播），支援超過100種語言，並以低於500毫秒的延遲進行實時檢測。
- •Synthesia自2017年以來實施的「創作時審核」模式，其獨特之處在於在AI模型渲染任何幀之前，即根據其政策評估每個腳本，這與業界常見的事後檢測方法形成對比。
📊 競品分析▸ Show
| Feature | Synthesia | HeyGen | Colossyan | Arcads |
|---|---|---|---|---|
| 主要用途 | 企業AI影片、培訓、內部溝通 | 企業AI影片、行銷影片 | 培訓與賦能、課程製作 | UGC（用戶生成內容）廣告 |
| 內容審核方法 | 創作時審核（渲染前審核腳本），結合自動化與人工審核，與Cinder合作強化 | 類似Synthesia的企業級審核，但用戶報告有時不一致 | 內建課程創作工具，減少審核問題，但SCORM導出需企業方案 | 未明確提及，但專注於UGC美學，可能審核重點不同 |
| 支援語言 | 160+ 種語言 | 40+ 種語言（影片翻譯） | 100+ 種語言（含唇形同步） | 未明確提及 |
| 頭像類型 | 200+ 多樣AI頭像，可自訂頭像，注重同意原則 | 類似Synthesia的精緻專業AI頭像，可即時創建個人頭像 | 70+ 頭像 | 1000+ AI演員，UGC優先設計，真實場景拍攝 |
| 定價（入門級） | 較低（但企業功能如SCORM需高階方案） | 高階方案與Synthesia相似 | Starter方案每月19美元 | 未明確提及 |
🛠️ 技術深入
- Synthesia的影片生成流程涉及將文本輸入（腳本、文件、PPT或URL）透過其AI影片助手處理，將內容組織成帶有AI頭像演示者、旁白和視覺元素的場景。深度學習模型生成與語音同步的面部動作和唇形，然後系統渲染出最終影片。
- Cinder的平台提供AI原生的信任與安全基礎設施，包括端到端的案件管理軟體，以及經過訓練的AI代理，用於實時檢測政策違規行為。
- Cinder的AI代理支援多模態內容覆蓋，包括文本、圖像、音頻、視頻和直播，以及AI生成內容，並能以低於500毫秒的延遲進行操作。
- Cinder的系統會根據審查員的決策自動學習和改進，提高準確性並減少人工負擔。
- Synthesia的內容審核結合了自動化檢測工具和人工監督，以處理潛在的政策問題並確保一致性，同時人工審查員處理更複雜或敏感的案件。
🔮 前景展望AI analysis grounded in cited sources
AI內容審核將成為所有生成式AI平台的標準整合功能。
AI生成內容的數量和複雜性不斷增加，需要強大、實時的審核機制來防止濫用並維護平台完整性。
此次合作將顯著減少Synthesia在內容審核方面的人工工作量。
Cinder的AI代理將自動處理常規案件並從人工決策中學習，使人工審查員能夠專注於複雜、模糊的內容。
Synthesia的「創作時審核」模式將成為道德AI影片生成領域的行業最佳實踐。
在內容渲染前進行主動篩選，能最大限度地減少有害合成媒體的傳播，為負責任的AI使用設定更高的標準。
⏳ 時間線
2017
由AI研究人員和企業家團隊在倫敦成立。
2019-04
與大衛·貝克漢合作的「瘧疾必須死」活動病毒式傳播，展示多語言頭像能力。
2019-05
完成310萬美元的種子輪融資。
2021-12
完成5000萬美元的B輪融資。
2023-06
透過9000萬美元的C輪融資，公司估值達到10億美元，成為獨角獸企業。
2025-02
確認完成1.8億美元的D輪融資，公司估值提升至21億美元。
📎 來源 (15)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Next Web (TNW) ↗