🇬🇧BBC Technology•最新收集於 5m
ChatGPT 停止以人類聲音回應青少年
💡ChatGPT 對青少年調整語音，為更安全的 AI 角色設計提供實務參考。
⚡ 30-Second TL;DR
有什麼變化
ChatGPT 將不再使用類似人類的聲音回應青少年。
為什麼重要
這項改動可能降低年輕使用者對 AI 的情感依附與混淆，但也可能讓語音互動顯得不那麼自然。為未成年人打造 AI 產品的開發者，可能需要制定更清晰的年齡分級語音與角色政策。
下一步行動
檢查應用程式的年齡分級與語音角色設定，並為被識別為未成年人的使用者定義較不具擬人化的備用聲音。
誰應關注：Developers & AI Engineers
關鍵要點
- •ChatGPT 將不再使用類似人類的聲音回應青少年。
- •OpenAI 表示，這項改動與任何特定的兒童安全事件無關。
- •這項更新凸顯了 AI 擬人化設計，以及青少年與 AI 互動時的產品安全考量。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •此項調整主要針對 OpenAI 的語音模式（Voice Mode），旨在降低青少年用戶對 AI 產生情感依賴或將其誤認為真人的風險。
- •OpenAI 採取此舉是為了符合日益嚴格的 AI 安全監管標準，特別是針對未成年人保護的相關法規要求。
- •研究顯示，過度擬人化的 AI 語音可能影響青少年的社交發展，OpenAI 此次調整反映了公司在產品設計上從『追求真實感』轉向『強調工具屬性』的策略轉變。
- •該限制措施不僅限於聲音，還涉及對 AI 語音回應語氣的調整，使其聽起來更具機械感或中性，以減少情感共鳴。
- •此舉與 OpenAI 內部推動的『負責任 AI 開發』（Responsible AI Development）框架一致，旨在預防 AI 系統在未成年用戶群體中引發的心理健康問題。
📊 競品分析▸ Show
| 功能/特性 | OpenAI (ChatGPT) | Google (Gemini) | Anthropic (Claude) |
|---|---|---|---|
| 語音擬人化程度 | 降低（針對青少年） | 中等 | 低（主要為文字/語音轉譯） |
| 青少年安全防護 | 高（主動限制） | 中（依賴家長控制） | 高（嚴格內容過濾） |
| 核心定位 | 助手與情感互動 | 資訊整合與生態整合 | 專業分析與安全性 |
| 語音技術架構 | 專有語音合成模型 | WaveNet/Gemini Live | 整合第三方 TTS |
🛠️ 技術深入
- 調整涉及語音合成模型（TTS）的參數，透過降低語音的韻律（Prosody）變化與情感語調（Affective Tone）來減少擬人化特徵。
- 實施基於帳戶年齡驗證的動態模型切換機制，當系統識別用戶為青少年時，會自動調用經過『去情感化』處理的語音合成引擎。
- 系統架構中引入了安全過濾層，專門監測語音回應中的情感引導詞彙，並在必要時強制切換至預設的非情感化語音輸出。
🔮 前景展望AI analysis grounded in cited sources
AI 產業將全面推行『年齡分級語音模式』。
監管壓力將迫使所有大型 AI 廠商針對未成年用戶提供與成人用戶不同的語音互動體驗。
語音合成技術將出現『功能性語音』與『情感性語音』的明確市場區隔。
為了規避倫理風險，企業將在產品設計上明確區分用於生產力的機械語音與用於娛樂的情感語音。
⏳ 時間線
2023-09
OpenAI 推出 ChatGPT 語音對話功能，標誌著 AI 擬人化互動的重大進展。
2024-05
OpenAI 發布 GPT-4o，展示了極具情感表現力與人類語氣的即時語音互動能力。
2024-06
因語音過於擬人化引發爭議，OpenAI 暫時下架特定語音（如 Sky），並承諾加強安全審查。
2026-08
OpenAI 正式宣布針對青少年用戶限制使用擬人化語音回應。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： BBC Technology ↗