OpenAI Proposes Privacy-Preserving Abuse Monitoring

•OpenAI 的 Private Safety Processing 目前處於預覽階段，正與早期客戶進行測試，預計於 2026 年 9 月進行更廣泛的推廣並發布技術白皮書。
•該系統透過自動化系統跨多個互動識別潛在的濫用模式，並向 OpenAI 發送「狹義定義的訊號」，而非原始客戶內容。
•對於零資料保留 (ZDR) 的部署，客戶內容仍保留在客戶控制的基礎設施上；OpenAI 也正在開發一種選項，將內容儲存在 OpenAI 的基礎設施上，並使用客戶控制的加密金鑰進行加密。
•零資料保留和 Private Safety Processing 的一個明確例外是針對被標記為潛在兒童性虐待材料 (CSAM) 的圖像，這些圖像仍可能根據法律要求進行人工審查和報告。
•Private Safety Processing 主要針對企業和 API 客戶，而非個人 ChatGPT 訂閱者。

📊 競品分析▸ Show

特性/指標	OpenAI (Private Safety Processing + ZDR)	Anthropic (Claude API)
濫用監控方法	跨多個互動自動偵測濫用模式，發送「狹義訊號」而非原始內容。客戶內容保留在客戶端或由客戶金鑰加密。	對於「受保護模型」，要求 30 天資料保留以進行安全工作。人工審查透過受控存取路徑進行，僅限少數經批准的審查員。
資料保留政策	符合條件的 API 客戶可享零資料保留 (ZDR)，處理後不保留提示或回應。非 ZDR API 預設保留 30 天。	對於「受保護模型」，強制保留 30 天。其他 API 模型預設保留 7 天，可選擇透過資料處理附錄 (DPA) 延長至 30 天。消費者帳戶預設保留至刪除，刪除後最長 30 天。若選擇用於模型訓練，去識別化資料可保留長達 5 年。
資料用於模型訓練	企業客戶資料預設不用於模型訓練，除非明確選擇加入。消費者 ChatGPT 聊天內容可能用於訓練，除非選擇退出。	商業產品 (Claude for Work, Anthropic API) 預設不使用聊天內容進行訓練。若提供回饋或明確選擇加入，資料可能被使用。消費者聊天內容可能用於訓練，除非選擇退出，選擇加入者可保留長達 5 年。
目前狀態	預覽中，預計 2026 年 9 月發布技術白皮書並擴大推廣。	「受保護模型」的政策已於 2026 年 6 月 9 日生效。

企業客戶對AI服務的信任度將顯著提升。

透過維持零資料保留同時強化濫用監控，OpenAI 解決了企業在採用先進AI模型時最關鍵的隱私和合規性擔憂。

AI產業將出現更多隱私保護技術的創新。

OpenAI 的方案為其他AI提供商設定了新的隱私保護濫用監控標準，促使競爭者開發類似或更先進的解決方案。

監管機構可能會將此類隱私保護技術納入未來的AI法規中。

該方案展示了在不犧牲隱私的情況下實現AI安全監控的可行性，這可能成為未來AI治理框架的參考點。

2015-12

OpenAI 成立，將安全和對齊視為核心任務。

2019

OpenAI 成立營利性子公司，並在後來進行重組。

2022-11

ChatGPT 發布，引發對生成式AI的廣泛興趣。

2023

OpenAI 引入偵測、驗證和報告兒童性虐待材料 (CSAM) 的機制。

2026-01-08

OpenAI 的企業隱私政策指出，API 輸入和輸出可保留 30 天，符合條件的端點可申請零資料保留 (ZDR)。

2026-08-19

OpenAI 預覽 Private Safety Processing，旨在跨互動偵測濫用行為，同時維持零資料保留。

OpenAI 提出保護隱私的濫用監控方案