📰
矽谷開始清理 AI 垃圾內容
各大科技平台正加強清除低品質、重複且具誤導性的 AI 生成內容。Spotify、YouTube、TikTok、LinkedIn、Pinterest 與 Substack 分別採用偵測、標記、使用者控制及協同行為分析等方式，降低 AI 垃圾內容的影響。
Search
Tag: #provenance11 results
OpenAI 推出檢測 AI 生成圖像的驗證工具
OpenAI 與 Google 合作推出了一款用於識別 AI 生成內容的公共驗證工具。該系統依賴隱形浮水印與元數據來區分真實影像與 AI 生成影像。
用於可審計心理健康資訊的代理型 AI
研究人員開發了一種多代理框架，整合了 FDA 的監管數據與來自 Reddit 和 WebMD 的患者敘述。該系統利用 Neo4j 知識圖譜來維護來源證明，確保精神科藥物資訊既具備豐富背景又可追溯。
OpenAI 加入 C2PA 與 SynthID 以強化影像檢測
OpenAI 正在實施新措施以識別 AI 生成的影像。該公司正採用開放的 C2PA 標準，並整合 Google 的 SynthID 浮水印技術。
索尼溯源 AI 生成音樂原始素材
索尼開發技術，能精準辨識 AI 生成歌曲中使用的原始音樂素材。此技術為詞曲作者及版權持有人提供工具，向 AI 開發者索取合理版稅補償。針對 AI 音樂版權爭議。
Shai-Hulud 蠕蟲取得 npm 的可信簽章
Shai-Hulud npm 蠕蟲接管維護者的 GitHub 帳戶後，入侵了數百個套件。惡意版本透過維護者受信任的 GitHub Actions 工作流程取得合法的來源證明，暴露出軟體供應鏈信任機制的重大弱點。
🔬
OpenAI 支持歐盟 AI 透明度實務守則
OpenAI 正式宣布支持歐盟關於 AI 內容透明度的實務守則。此舉旨在推動內容來源驗證標準，協助使用者更清楚辨識與理解 AI 生成的內容。
代理框架實現自適應醫學影像處理
提出基於人工製品的代理框架，用於醫學影像處理，強調對資料集條件的自適應性及透過出處追蹤實現可重現性。利用人工製品合約進行語義工作流程查詢及模組化配置組裝。在臨床CT及MRI群組上評估，證明確定性可重現性及隱私相容性。
NeuDiff Agent 加速中子晶體學 5 倍
NeuDiff Agent 是 Spallation Neutron Source 的 TOPAZ 治理式 AI 工作流程，自動化單晶中子晶體學，從資料還原到驗證 CIF 輸出。它限制動作至允許工具清單，強制關鍵邊界的故障關閉驗證閘，並擷取完整出處。基準測試顯示牆鐘時間加速 4.6-5.0 倍（86.5-94.4 分鐘對比手動 435 分鐘），無 checkCIF A 或 B 警示。
🤖
Claude 據報加入隱寫式 AI 內容標記
一篇 Reddit 貼文聲稱 Claude 現在會使用隱寫式訊號標記 AI 生成內容。貼文同時指出已出現誤判，引發對透明度、偵測可靠性及封閉模型使用方式的疑慮。