🕷️
SetupAI
EN
💼較早收集於 14h

Karpathy 的九九大法：90% 可靠性遠遠不夠

Karpathy 的九九大法：90% 可靠性遠遠不夠
PostLinkedIn
💼閱讀原文： VentureBeat
#reliability#agentic-workflows#slo#productionmarch-of-nineskarpathy

💡90% AI 為何生產環境失效：Karpathy 數學顯示需 99.99% + 9 槓桿（48 字）

⚡ 30-Second TL;DR

有什麼變化

10 步驟工作流程中每步 90% 成功僅達 35% 端到端成功

為什麼重要

此分析促使 AI 團隊優先可靠性工程而非展示，透過量化失敗影響加速企業採用。

下一步行動

為下個代理工作流程定義 3 核心 SLO（完成率、工具成功率、延遲）。

誰應關注：Enterprise & Security Teams

關鍵要點

  • •10 步驟工作流程中每步 90% 成功僅達 35% 端到端成功
  • •每日使用需每步 99.99% 以每 3.3 個月一次失敗
  • •定義 SLO：工作流程完成率、工具呼叫成功率、結構化輸出有效率
  • •使用明確工作流程圖與狀態機限制自主性
  • •每邊界強制合約與結構驗證

🧠 深度解析

背景與延伸：來自公開資料，非原文內容。引用 5 個來源。

🔑 增強重點摘要

  • •Karpathy 強調，在人類監督下，95% 可靠性的 AI 系統即可部署並產生巨大商業價值，而非需達 99.9%[1]。
  • •AI 代理自 2025 年 12 月起才變得可靠，得益於如 Opus 4.5 和 Codex 5.2 等模型品質提升及任務持續能力增強[2]。
  • •Karpathy 區分「vibe coding」（隨意接受 AI 建議）和「agentic engineering」（開發者協調 AI 代理的工程技能），後者需新學習曲線[4]。
  • •儘管 AI 代理強大，其本質為隨機（stochastic）、易錯、黑箱，需要人類高階指導與監督[3]。

🔮 前景展望AI analysis grounded in cited sources

AI 代理將持續改善，但企業部署需重點建構人類-AI 協作基礎設施
Karpathy 指出瓶頸在變更管理、整合與監督工具，而非 AI 本身，建議建構漸進自主性滑桿[1]。
2026 年 agentic engineering 將成為主流編程範式
Karpathy 預期模型與代理層進展將推動開發者從寫碼轉向管理 AI 代理，類似外星工具的學習曲線[4]。

⏳ 時間線

2017-01
Karpathy 加入 Tesla 領導 Autopilot 團隊，開發視覺導向自駕技術
2022-07
Karpathy 離開 Tesla，專注個人 AI 項目
2025-02
Karpathy 描述 vibe coding 為高風險週末項目
2025-10
Karpathy 認為 AI 代理炒作過度，尚未準備好實用
2025-12
Opus 4.5 與 Codex 5.2 發布，AI 代理可靠性大幅提升，Karpathy 改變觀點
💼閱讀原文： VentureBeat
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

同主題

探索 #reliability

同產品

更多關於 march-of-nines

同來源

最新來自 VentureBeat

企業加碼分散 AI Agent 控制平面風險

企業加碼分散 AI Agent 控制平面風險

VentureBeat•Aug 20

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： VentureBeat ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週 AI 簡報

每週一封，可隨時退訂。