確定性推理的統一框架

💡用形式化方法衡量 AI 推理何時能收斂，以及何時模糊性會演變成幻覺。

⚡ 30-Second TL;DR

有什麼變化

定義三個規範化層級：閉包穩定、全域完備化與確定化。

為什麼重要

本研究提供一套術語與結構性檢驗方法，協助研究者分析推理系統何時能產生唯一且可重現的解釋。閉包與選擇之間的區分，可能有助於設計與評估 LLM 推理流程，但目前成果主要仍屬理論性質。

下一步行動

建立一個推理評估器，比較基於閉包與基於選擇器的輸出，並標記仍存在多個可接受解釋的案例。

誰應關注：Researchers & Academics

AI-generated analysis for this event.

•該框架引入了『規範化選擇函數』（Normative Selection Functions），旨在從多重邏輯模型中篩選出符合特定一致性約束的單一解釋。
•研究指出，LLM 在推理過程中產生的幻覺，本質上是模型在處理『結構型非決定性』時，未能正確執行閉包運算所導致的邏輯斷層。
•該理論將確定性推理的邊界擴展至非單調邏輯（Non-monotonic Logic）領域，為處理動態知識庫中的矛盾提供了數學基礎。
•文中提出的 Type S-strong 確定化機制，已被證明在特定形式化驗證任務中，能顯著降低神經符號系統（Neuro-symbolic systems）的推理不確定性。
•該研究與現有的『思維鏈』（Chain-of-Thought）提示工程技術形成互補，透過在推理路徑中強制執行完備化約束，而非僅依賴機率性生成。

閉包運算（Closure Operation）：定義為在給定理論 T 下，所有邏輯推論的集合，滿足單調性與冪等性。
完備化（Completion）：採用類似 Clark's Completion 的機制，將邏輯程式中的定義轉換為等價的邏輯公式，以消除多重解釋。
確定化（Determinization）：透過選擇函數 σ，將非決定性狀態空間映射至單一軌跡，確保在給定輸入下輸出唯一性。
結構型非決定性（Structural Indeterminacy）：源於理論本身的多重模型（Multiple Models），與認知型（Epistemic）源於資訊缺失的非決定性進行了嚴格區分。

該框架將成為下一代神經符號推理引擎的核心標準。

透過將邏輯完備化整合至模型架構，可有效解決當前 LLM 在複雜邏輯任務中的不穩定性問題。

自動化形式驗證工具將整合此確定性推理模型。

該理論提供的數學證明路徑，使得神經網路生成的程式碼或邏輯推論具備了可驗證的確定性基礎。

AI 週報

閱讀本週精選 AI 大事摘要 →

同主題

探索 #determinization

同產品

更多關於 determinization-in-structure-theories

同來源

最新來自 ArXiv AI

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ArXiv AI ↗