從提問者到驗收者：重新理解AI時代的核心能力

🔑 增強重點摘要

• •AI 代理（AI Agents）的自主決策能力提升，導致「幻覺」從單純的文字生成錯誤，演變為對外部系統（如檔案系統、API）產生不可逆的破壞性影響。
• •「驗收者」角色的核心在於建立「防禦性工程」（Defensive Engineering），即在 AI 執行任務前，必須設計沙盒環境（Sandbox）與自動化驗證機制，而非僅依賴人工審核。
• •隨著 LLM 整合至生產環境，企業正從「提示工程」（Prompt Engineering）轉向「流程工程」（Workflow Engineering），強調將複雜任務拆解為可監控、可中斷的原子化步驟。

🛠️ 技術深入

• •AI 代理執行風險主要源於 LLM 在處理多步驟任務時的「規劃漂移」（Planning Drift），即模型在執行過程中偏離了初始目標。
• •Replit 等開發環境中出現的資料刪除問題，通常與代理程式對工具使用（Tool Use/Function Calling）的權限控制不當有關，缺乏最小權限原則（Principle of Least Privilege）。
• •針對「不對勁直覺」的技術化實現，目前業界傾向於引入「反思機制」（Self-Reflection）與「多代理驗證」（Multi-Agent Verification），即由第二個模型專門負責審查第一個模型的輸出邏輯。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線