OpenAI officially endorses the Kids Online Safety Act

•OpenAI 對《兒童網路安全法案》（KOSA）的支持，是其更廣泛的「兒童安全藍圖」的一部分，該藍圖旨在透過現代化法律、改進報告機制以及將「安全設計」原則直接融入AI系統來解決兒童網路安全問題。
•KOSA 旨在對線上平台施加「注意義務」，要求它們採取合理措施，透過關注「設計特徵」而非內容，來預防和減輕對未成年人的傷害，例如焦慮、抑鬱、飲食失調、物質濫用和自殺行為。
•該法案因可能導致審查制度和影響言論自由而受到公民自由和 LGBTQ+ 團體的批評，儘管其修正案試圖澄清其範圍。
•OpenAI 的背書正值社群媒體公司面臨日益增長的法律壓力之際，近期加州和新墨西哥州的里程碑式判決認定社群媒體公司對兒童造成傷害負有責任。
•KOSA 還要求平台為未成年人提供保護其資訊、禁用成癮性產品功能以及選擇退出個性化演算法推薦的選項，並為兒童預設啟用最強的隱私設定。

📊 競品分析▸ Show

公司/實體	對 KOSA 的立場	相關行動/評論
OpenAI	正式支持	發布「兒童安全藍圖」，實施「安全設計」原則，推出「信任聯絡人」功能。
Microsoft	支持	作為一家主要專注於 AI 而非傳統社群媒體的公司，其支持可能旨在獲得 AI 領域的監管善意。
X (前身為 Twitter)	支持	與 Microsoft 一同公開支持該法案。
Apple	支持	公開支持 KOSA，並表示其設計功能已符合擬議的兒童安全基準。
Meta	保留意見	與 Discord 和 TikTok 一起對該法案表達了保留意見。
Discord	保留意見	與 Meta 和 TikTok 一起對該法案表達了保留意見。
TikTok	保留意見	與 Meta 和 Discord 一起對該法案表達了保留意見。
Alphabet	推動統一標準	推動統一標準，避免新的數據負擔，但未明確表示支持或反對 KOSA。
CCIA (電腦與通訊產業協會)	警告	警告 KOSA 可能需要侵入性年齡驗證和廣泛的日誌記錄。

OpenAI 採用「安全設計」原則，將安全措施直接內建於 AI 系統中，以預防和偵測濫用行為，包括兒童性虐待材料（CSAM）。
他們利用自有的模型來加速偵測潛在的濫用行為，並與業界合作夥伴共同建立廣泛的安全防護措施。
透過雜湊比對技術識別已知的 CSAM，並使用 Thorn 的 CSAM 內容分類器來偵測上傳內容中可能的新型 CSAM。
AI 模型經過訓練，不會生成有害的文字、圖像、音訊或視訊內容，並且訓練資料的來源經過嚴格篩選，以防止基於圖像的性虐待內容。
OpenAI 的系統旨在偵測和阻止任何試圖生成 AI 兒童性虐待材料或涉及未成年人性幻想內容的行為，並對從事此類行為的帳戶進行封禁並向國家失蹤與受剝削兒童中心（NCMEC）報告。
ChatGPT 引入了「信任聯絡人」安全功能，允許用戶指定一個信任的個人，在對話中偵測到情緒困擾或自殘風險時，系統會建議用戶聯繫該聯絡人，但不會自動通知該聯絡人。
ChatGPT 經過訓練，不會提供自殘指示，而是引導用戶尋求專業幫助（例如，在美國會轉介至 988 危機熱線）。

KOSA 的通過可能會導致 AI 公司在設計和部署針對未成年人的產品方面發生重大轉變。

「注意義務」以及對更安全預設設定和家長控制的要求，將促使產品開發和演算法設計進行根本性變革。

圍繞 KOSA 的爭議將繼續凸顯數位時代兒童安全、言論自由和隱私之間的緊張關係。

批評者對審查制度和年齡驗證的擔憂，加上業界對數據負擔的反彈，預示著持續的法律和道德挑戰。

OpenAI 對 KOSA 的支持可能會為其他 AI 公司樹立先例，促使其與類似的立法努力保持一致。

作為領先的 AI 公司，OpenAI 的公開背書可能會影響其他行業參與者採取類似立場，以獲得監管善意並塑造未來的 AI 特定法規。

2021

Facebook 吹哨人 Frances Haugen 洩露內部文件，引發國會對大型科技公司影響未成年人的調查。

2022-02

參議員 Richard Blumenthal 和 Marsha Blackburn 在參議院提出《兒童網路安全法案》（KOSA）。

2024-04

OpenAI 與其他科技公司共同承諾實施「安全設計」原則，以防止生成式 AI 被濫用於兒童性虐待材料（CSAM）。

2024-07

參議院以 91-3 票通過 KOSA 的合併版本（《兒童網路安全與隱私法案》- KOSPA），但該法案在眾議院受阻。

2025-04

OpenAI 發布其「兒童安全藍圖」，概述了兒童安全的法律、操作和技術方法。

2026-05-08

OpenAI 為 ChatGPT 推出「信任聯絡人」安全功能，以幫助處於潛在自殘情況下的用戶。

2026-05-13

OpenAI 正式宣布支持《兒童網路安全法案》（KOSA）。

OpenAI 正式表態支持《兒童網路安全法案》