📱Engadget•較早收集於 63m
ChatGPT 新增自殘風險信任聯絡人
💡ChatGPT 危機警示功能重新定義 AI 心理健康防護。
⚡ 30-Second TL;DR
有什麼變化
使用者在設定中指定 Trusted Contact
為什麼重要
為消費者應用程式 AI 安全樹立新標準，鼓勵倫理防護措施。可能促使競爭者採用類似危機回應機制。
下一步行動
在您的 LLM 應用中整合 OpenAI Moderation API 偵測自殘風險。
誰應關注：Developers & AI Engineers
關鍵要點
- •使用者在設定中指定 Trusted Contact
- •OpenAI 偵測自殘風險時警示聯絡人
- •AI 主動介入心理健康危機
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •此功能整合了 OpenAI 的安全防護層（Safety Layer），當模型偵測到對話內容涉及自我傷害意圖時，會觸發自動化的風險評估流程，而非僅依賴關鍵字過濾。
- •使用者設定的「信任聯絡人」將會收到由 OpenAI 系統發送的加密通知，內容包含心理健康資源連結及建議的應對方式，以確保聯絡人能及時提供支援。
- •OpenAI 在此功能中引入了隱私保護機制，確保 AI 模型在偵測過程中僅處理必要的風險指標，並嚴格限制聯絡人資訊的存取權限，以符合 GDPR 及相關隱私法規。
📊 競品分析▸ Show
| 功能/平台 | ChatGPT (信任聯絡人) | Google Gemini (危機支援) | Anthropic Claude (安全防護) |
|---|---|---|---|
| 主動聯絡人警示 | 是 | 否 (僅提供資源連結) | 否 |
| 心理健康資源 | 整合式連結 | 搜尋結果導向 | 搜尋結果導向 |
| 隱私保護機制 | 專屬加密通知 | 依賴帳號安全設定 | 依賴帳號安全設定 |
🔮 前景展望AI analysis grounded in cited sources
AI 心理健康監測將成為大型語言模型（LLM）的標準安全規範。
隨著監管機構對 AI 倫理與使用者安全的重視，主動式危機干預功能將成為企業部署 AI 服務的必要合規條件。
OpenAI 將擴大與全球心理健康組織的 API 串接。
為了提升警示的準確性與後續支援的專業度，OpenAI 勢必需要與在地化的醫療與心理諮商機構建立更深層的數據與服務連結。
⏳ 時間線
2022-11
OpenAI 發布 ChatGPT，初期安全防護主要依賴基礎的內容過濾器。
2023-07
OpenAI 宣布與心理健康組織合作，在對話中加入危機資源提示。
2025-03
OpenAI 升級其安全模型，強化對高風險對話的語意理解能力。
2026-05
ChatGPT 正式推出「信任聯絡人」功能，實現主動式風險通知。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Engadget ↗