🔗Wired AI•較早收集於 16m
OpenAI 禁止 Codex 提及哥布林
💡OpenAI 的 Codex 怪癖修復揭示抑制幻覺的提示技巧（28字元）
⚡ 30-Second TL;DR
有什麼變化
OpenAI 更新 Codex 系統提示，禁止哥布林相關話題
為什麼重要
此提示調整突顯 LLM 在如程式碼代理等專用工具中的持續幻覺挑戰，可能提升開發者輸出可靠性。它顯示 OpenAI 在競爭壓力下的迭代微調努力。
下一步行動
使用生物查詢測試 Codex API 提示，以確認幻覺抑制效果。
誰應關注：Developers & AI Engineers
關鍵要點
- •OpenAI 更新 Codex 系統提示，禁止哥布林相關話題
- •禁止生物包括小精靈、浣熊、食人妖、食人魔、鴿子
- •僅在「絕對且明確相關」時允許提及
- •針對抑制程式碼代理中離題幻覺
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •此項限制源於 OpenAI 內部對「系統提示注入」（System Prompt Injection）與「角色扮演幻覺」的防禦機制升級，旨在減少模型在處理程式碼任務時因過度擬人化或引用網路迷因（Meme）而產生的冗餘輸出。
- •研究人員發現，Codex 模型在訓練數據中吸收了大量奇幻文學與網路論壇討論，導致其在生成程式碼註解時，容易觸發與特定生物相關的無意義敘事，進而影響程式碼的可維護性。
- •此類針對特定詞彙的「負面約束」（Negative Constraints）是 OpenAI 強化模型對齊（Alignment）的一環，旨在確保 AI 代理在專業開發環境中保持高度的任務專注度，而非僅僅是語言模型。
🔮 前景展望AI analysis grounded in cited sources
AI 代理將更頻繁地採用「負面約束」來過濾特定領域的幻覺。
隨著 AI 代理在生產環境的應用增加，開發者將更依賴系統提示來精確界定模型輸出的邊界，以避免非預期的創意輸出干擾程式碼邏輯。
模型訓練數據的過濾機制將從單純的有害內容轉向「任務相關性」過濾。
為了提升程式碼生成模型的專業度，未來訓練集將更嚴格地剔除與程式設計無關的娛樂性與奇幻類文本，以降低模型在執行任務時的認知負荷。
⏳ 時間線
2021-08
OpenAI 發布 Codex 模型，旨在將自然語言轉換為程式碼。
2023-03
OpenAI 宣布 Codex 模型進入棄用階段，轉向更強大的 GPT-4 系列模型支援程式碼任務。
2026-04
OpenAI 更新 Codex 代理系統提示，實施針對特定奇幻生物的輸出限制。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Wired AI ↗