ChatGPT Lockdown Mode: Protecting Against Prompt Injection

•Lockdown 模式已推廣至所有 ChatGPT 帳戶類型，包括免費、Go、Plus、Pro 以及自助式 ChatGPT 商業帳戶，旨在為處理敏感資料的使用者和組織提供更強大的保護。
•此模式主要透過限制出站網路請求來阻止資料外洩的最後階段，而非完全防止提示詞注入攻擊的發生，因為惡意指令仍可能存在於快取內容或上傳檔案中並影響模型行為。
•啟用 Lockdown 模式會停用多項功能，包括即時網路瀏覽（僅限於快取內容）、深度研究、代理模式、Canvas 網路功能以及用於資料分析的檔案下載功能。
•OpenAI 承認，儘管 Lockdown 模式顯著降低了風險，但並不能完全消除所有提示詞注入攻擊的風險，特別是透過已啟用的應用程式、功能組合或新發現的技術。
•Lockdown 模式無法與開發者模式同時啟用，使用者必須在兩者之間進行選擇。

📊 競品分析▸ Show

功能/產品	ChatGPT Lockdown 模式	其他提示詞注入防禦工具 (例如 Lakera Guard, LLM Guard, Azure Prompt Shields)
主要目標	限制出站網路請求，防止資料外洩的最後階段	偵測並阻止惡意提示詞、越獄嘗試、資料洩露、不安全輸出
實施方式	沙盒、URL 資料外洩保護、監控與執行機制、企業控制	輸入/輸出過濾、提示詞評估、強化學習、系統提示詞區分使用者輸入
網路存取	限制即時網路瀏覽至快取內容，禁用深度研究、代理模式	依工具設計而異，部分提供即時運行時保護
適用範圍	所有 ChatGPT 帳戶類型，特別針對處理敏感資料的組織	適用於各種 LLM 應用程式，包括聊天機器人、協作工具、RAG 系統
部署	OpenAI 內建功能，使用者可選擇啟用	可作為託管 API、開源函式庫或 Azure 服務整合到現有 LLM 應用中
價格	包含在現有 ChatGPT 訂閱中 (免費、Go、Plus、Pro、Business)	從免費層級到客製化企業方案不等，通常按使用量或功能計費
局限性	不防止提示詞注入本身，仍可能影響模型行為	無單一萬無一失的解決方案，需多層次防禦

專門的 AI 安全解決方案將會被更廣泛地採用。

由於提示詞注入仍是一個「前沿問題」且 Lockdown 模式無法完全消除所有風險，企業將尋求額外的專用安全工具來強化其 LLM 部署。

LLM 設計將朝向內建區分指令與資料的能力發展。

大型語言模型無法可靠地區分開發者指令和使用者輸入是其根本弱點，這促使未來模型架構需要進行變革以提供更全面的解決方案。

使用者教育和 AI 使用政策的制定將變得更加重要。

即使在 Lockdown 模式下，提示詞注入仍可能影響模型行為，因此提高使用者意識和制定嚴格的組織政策對於管理剩餘風險至關重要。

2022-05

Jonathan Cefalu 發現並報告「指令注入」（後稱提示詞注入）漏洞。

2022-09

Simon Willison 創造「提示詞注入」一詞。

2023-08

OpenAI 推出 ChatGPT Enterprise，提供企業級安全與隱私功能。

2024-12

《衛報》報導 ChatGPT 搜尋工具容易受到間接提示詞注入攻擊。

2026-04

OpenAI 推出 ChatGPT 進階帳戶安全功能，強化登入保護和帳戶恢復。

2026-06

OpenAI 開始向個人和自助式 ChatGPT 商業帳戶推出 Lockdown 模式。

ChatGPT Lockdown 模式：防範提示詞注入攻擊