🕷️
SetupAI
📄較早收集於 11h

ImProver 2：用於自動化證明優化的神經符號框架

ImProver 2：用於自動化證明優化的神經符號框架
PostLinkedIn
📄閱讀原文： ArXiv AI
#formal-verification#lean-4#neurosymbolic#mathematicsimprover-2lean 4improver 2

💡了解 7B 模型如何利用神經符號方法，在形式化數學證明優化任務中擊敗前沿規模的系統。

⚡ 30-Second TL;DR

有什麼變化

引入了用於 Lean 4 自動化證明優化的神經符號框架。

為什麼重要

這項研究證明了透過適當的支架設計，較小型的專用模型可以在形式推理任務中達到前沿水準。這降低了維護大型形式化數學庫的門檻。

下一步行動

如果您正在進行 Lean 4 的形式化驗證或自動定理證明，請深入研究 ImProver 2 框架。

誰應關注：Researchers & Academics

關鍵要點

  • •引入了用於 Lean 4 自動化證明優化的神經符號框架。
  • •結合了數據高效的專家迭代管道與形式化結構支架。
  • •7B 參數模型在性能上達到了與中階前沿模型競爭的水準。
  • •將證明優化確立為小型模型可擴展且可學習的任務。

🧠 深度解析

Web-grounded analysis with 18 cited sources.

🔑 增強重點摘要

  • •ImProver 2 能夠針對證明長度、模組化程度（將證明分解為更小的引理）和明確依賴關係等多種指標進行優化，同時保持形式化正確性。
  • •該框架採用「神經符號支架」，它在輕量級非形式化抽象的同時，揭示了形式化結構，顯著提升了小型模型和前沿模型的性能。
  • •ImProver 2 的訓練流程結合了基於強化學習的訓練階段、用於平衡新舊數據的重放緩衝區，以及多種神經符號增強來源以提升生成能力。
  • •ImProver 2 旨在解決可擴展證明優化中的挑戰，例如異構和啟發式指定目標、數據稀缺以及高昂的訓練和推理成本。
  • •ImProver 2 是基於其前身 ImProver 的發展，ImProver 是一個利用大型語言模型（LLM）進行證明重寫的代理，並採用了諸如狀態鏈（Chain-of-States）提示、符號上下文、錯誤糾正流程和檢索增強生成（RAG）等技術。
📊 競品分析▸ Show
特性/系統ImProver 2AlphaProof (Google DeepMind)ProofNet++Goedel-Prover-V2 (Princeton)DeepSeek-Prover-V2 (DeepSeek AI)LeanDojo-v2 (ReProver)
主要任務自動化證明優化 (重構現有證明)形式化證明生成與驗證形式化證明生成與驗證，帶自校正自動化定理證明形式化定理證明AI輔助定理證明 (訓練、評估、部署)
核心方法神經符號框架，數據高效專家迭代，結構化指標，神經符號支架神經定理證明，檢索增強模型，專家迭代神經符號架構，驗證器在環強化學習，符號證明樹監督，迭代自校正開源語言模型，自校正模式遞歸證明搜索，冷啟動訓練，GRPO強化學習儲存庫追蹤，終身數據集管理，檢索增強代理
目標證明環境Lean 4Lean, Coq, Isabelle, MetamathLean 4 (mathlib), miniF2F, HOL LightLean 4Lean 4Lean 4 (也支持Lean 3)
模型規模7B 參數模型未明確說明，但達到IMO銀牌水平未明確說明，但結合LLM32B 參數模型 (V2)，8B 參數模型 (V2-8B)7B 和 671B 參數版本未明確說明，但支持Hugging Face模型
基準測試/性能在重構研究級數學證明時超越規模更大的系統IMO銀牌表現顯著提高證明準確性、正確性和形式化可驗證性Goedel-Prover V2-8B 在 VeriBench-FTP 上達到 39.56% Pass@32；V2 在 miniF2F 上從 60% 提升到 90%88.9% miniF2F-test 通過率ReProver 在 LeanDojo Benchmark 上優於 Lean 內置自動化和 GPT-4 零樣本
開源狀態程式碼可用於 GitHub未明確說明，但有研究論文數據集和程式碼可用於未來研究開源開源開源 (模型、數據集、程式碼)

🛠️ 技術深入

  • 神經符號框架： ImProver 2 結合了神經模型（大型語言模型）與符號推理，以處理形式化證明。
  • 專家迭代管道： 採用數據高效的迭代流程，重複進行訓練、生成，並對生成的數據進行評估和篩選，以用於後續迭代。
  • 神經符號支架： 該機制在輕量級非形式化抽象的同時，向模型揭示了形式化結構，顯著提升了性能。
  • 訓練組件：
    • 基於強化學習的訓練階段。
    • 重放緩衝區：用於平衡舊數據和新生成數據。
    • 神經符號增強：提供來自 Lean 定理證明環境的豐富資訊，包括目標狀態、非形式化摘要、引理上下文和範例。
  • 優化指標： 模型針對證明長度、模組化程度（將證明分解為更小的引理）和明確依賴關係這三種不同指標進行訓練。
  • 前身技術（ImProver 1 繼承或改進）：
    • 狀態鏈（Chain-of-States, CoS）提示： 將每個證明狀態作為註釋明確標註在每個策略之前，使中間狀態對模型可見。
    • 符號上下文： 利用 Lean 的元編程能力提取並嵌入證明狀態中的符號資訊。
    • 錯誤糾正流程： 用於精煉證明的機制。
    • 檢索增強生成（RAG）： 使用最大邊際相關性（MMR）從人類製作的預優化和後優化 Lean 定理的快取向量數據庫中選擇相關範例和文檔。
    • 最佳 N 採樣： 生成多個解決方案並選擇最佳的一個。
  • 模型類型： 7B 參數模型。
  • 數據集： 利用來自多個開源專案的 Lean 證明，這些專案形式化了多個領域的研究級數學。

🔮 前景展望AI analysis grounded in cited sources

小型語言模型將在形式化證明優化領域扮演更關鍵的角色。
ImProver 2 證明了 7B 參數模型在重構研究級數學證明方面能超越規模更大的系統，確立了證明優化作為小型模型可擴展且可學習的任務。
神經符號方法將成為提升 AI 數學推理能力的主流範式。
ImProver 2 結合了神經網絡的數據驅動能力與符號邏輯的精確性，有效解決了純粹神經模型在形式化驗證中常見的幻覺問題。
自動化證明優化將加速大型形式化數學庫的發展與維護。
透過自動化優化證明，可以提高現有證明數據的質量和可維護性，從而為人類數學家和未來的 AI 系統提供更好的資源。

⏳ 時間線

2013-07
Lean 專案由 Leonardo de Moura 啟動，並首次提交程式碼。
2017-01
Lean 3.0 正式發布，成為首個用於形式化的穩定版本。
2018-04
Lean 4 的開發開始。
2023-09
Lean 4.0 正式發布，實現了自託管，並將 Mathlib 成功移植到 Lean 4。
2024-10
ImProver (ImProver 2 的前身) 論文發布，提出基於 LLM 代理的自動化證明優化方法。
2026-02
ImProver 2 論文發布，介紹用於 Lean 4 自動化證明優化的神經符號框架。
📄閱讀原文： ArXiv AI
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

同主題

探索 #formal-verification

同產品

更多關於 improver-2

同來源

最新來自 ArXiv AI

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ArXiv AI ↗