🕷️
SetupAI
🧬較早收集於 53h

擴展 AI 內容來源標記與透明度工具

擴展 AI 內容來源標記與透明度工具
PostLinkedIn
🧬閱讀原文： DeepMind Blog
#content-provenance#transparency#digital-watermarkingdeepmind-content-provenance-toolsdeepmindgooglec2pa

💡了解 DeepMind 如何透過標準化 AI 內容來源標記，以打擊假訊息並提升數位透明度。

⚡ 30-Second TL;DR

有什麼變化

部署增強型的數位媒體來源追蹤技術

為什麼重要

這些工具極有可能成為內容驗證的產業標準，迫使開發者更積極地整合如 C2PA 等元數據標準。

下一步行動

檢查您的內容處理流程，確保其與新興的 AI 生成資產 C2PA 元數據標準相容。

誰應關注：Developers & AI Engineers

關鍵要點

  • •部署增強型的數位媒體來源追蹤技術
  • •專注於識別 AI 生成或經 AI 編輯的內容
  • •致力於提升網路內容的整體透明度

🧠 深度解析

Web-grounded analysis with 31 cited sources.

🔑 增強重點摘要

  • •DeepMind的核心工具是SynthID，這是一種不可見的數位浮水印技術，能將浮水印直接嵌入AI生成內容的像素或標記中，使其對人眼不可察覺但可被演算法偵測。
  • •Google已將SynthID驗證功能擴展到搜尋和Chrome瀏覽器，並將C2PA內容憑證驗證功能引入Gemini應用程式，使內容溯源工具更貼近日常使用場景。
  • •DeepMind是內容溯源與真實性聯盟 (C2PA) 的指導委員會成員，該聯盟制定了使用中繼資料和加密簽章的開放技術標準，以確保數位內容的來源和歷史資訊。
  • •OpenAI、Kakao和ElevenLabs等其他主要AI公司也已開始將SynthID整合到其產品中，顯示此技術在業界的廣泛採用趨勢。
  • •除了水浮水印，Google還開發了實驗性AI工具Backstory，利用Gemini模型分析圖像的上下文和來源，判斷其是否由AI生成、線上使用歷史以及是否被數位修改。
📊 競品分析▸ Show
特性/公司/標準DeepMind (SynthID)C2PA (Content Credentials)OpenAI (DALL-E 3, ChatGPT)
核心技術不可見數位浮水印 (像素/標記層級)中繼資料與加密簽章早期為C2PA中繼資料，現整合SynthID浮水印
內容類型圖像、影片、音訊、文字圖像、影片、音訊、文字圖像 (DALL-E 3), 文字 (ChatGPT), 影片 (Sora)
偵測方式演算法偵測嵌入式浮水印驗證中繼資料與數位簽章結合浮水印與中繼資料
抗篡改性對壓縮、調整大小、裁剪等操作具有韌性防篡改中繼資料浮水印在截圖等轉換後仍可保留
開放性SynthID Text已開源開放、免版稅技術標準支援C2PA開放標準
主要應用Google產品線 (Gemini, Search, Chrome, Vertex AI Imagen, Lyria, Veo)跨產業內容溯源標準，由Adobe、Google、Microsoft等廣泛採用OpenAI生成內容的來源標記

🛠️ 技術深入

  • SynthID：
    • 採用不可見的數位浮水印，直接嵌入AI生成內容的像素（圖像/影片）或標記機率（文字）中。
    • 對於圖像和影片，浮水印嵌入像素，人眼不可察覺，但可被演算法偵測。
    • 對於文字，透過調整單詞/標記的機率分數來修改標記採樣迴圈，使用偽隨機g函數嵌入浮水印資訊，不影響文字品質。
    • 設計上能抵抗常見的內容操作，如壓縮、調整大小、裁剪和截圖。
    • 運作於模型或像素層級，與基於中繼資料的方法不同。
    • 提供SynthID偵測器作為驗證入口網站，用於圖像、影片或音訊檔案。
    • SynthID Text已開源。
  • C2PA (內容憑證)：
    • 基於中繼資料的溯源技術，使用加密數位簽章。
    • 將「內容憑證」（防篡改中繼資料）附加到數位內容上。
    • 清單包含關於內容創建、修改和分發歷史的加密資訊。
    • 旨在實現不可偽造性和公開可偵測性。

🔮 前景展望AI analysis grounded in cited sources

AI生成內容的信任度將顯著提升。
隨著浮水印和內容憑證等透明度工具的廣泛採用，使用者將能更容易地驗證內容來源，從而減少對假資訊的疑慮。
內容創作者將獲得更強大的智慧財產權保護和歸屬權。
數位浮水印和可追溯的內容憑證能提供內容來源的確鑿證據，有助於創作者證明其作品的原始性並防止未經授權的使用。
跨平台和跨模型的AI內容透明度將成為行業標準。
隨著Google DeepMind的SynthID與C2PA標準的整合以及其他主要AI公司的採用，內容溯源技術的互操作性將大幅提高，推動統一的透明度規範。

⏳ 時間線

2019-11
Adobe、紐約時報和Twitter共同創立內容真實性倡議 (CAI)。
2021-02
Adobe、Arm、BBC、Intel、Microsoft和Truepic共同創立內容溯源與真實性聯盟 (C2PA)。
2023-08
Google DeepMind與Google Cloud合作推出SynthID的測試版，用於浮水印和識別AI生成的圖像。
2024-02
Google加入C2PA成為指導委員會成員，承諾將C2PA標準整合到其產品和服務中。
2024-05
SynthID擴展至浮水印AI生成的文字 (Gemini app) 和影片 (Veo模型)。
2026-05
Google在I/O大會上宣布將SynthID和C2PA驗證擴展到Search和Chrome，並宣布OpenAI、Kakao、ElevenLabs將整合SynthID。
🧬閱讀原文： DeepMind Blog
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

同主題

探索 #content-provenance

同產品

更多關於 deepmind-content-provenance-tools

同來源

最新來自 DeepMind Blog

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： DeepMind Blog ↗