🕷️
SetupAI
📄較早收集於 23h

AI 認知推理機制：Theory of Mind Utility 形式化規範

AI 認知推理機制：Theory of Mind Utility 形式化規範
PostLinkedIn
📄閱讀原文： ArXiv AI
#mentalizing#epistemic-logic#multi-agent-systemstheory-of-mind-utility-(tom-u)arxivtheory of mind utility

💡一套全新的 AI 認知形式化框架，將信念推斷從黑箱模型轉向結構化、可測試的邏輯。

⚡ 30-Second TL;DR

有什麼變化

引入 Local Epistemic World Models (LEWMs) 作為有向類型圖，用於追蹤代理人的信念。

為什麼重要

此框架為提升 AI 代理人的社會智慧提供了嚴謹的路徑，超越了基於啟發式的目標推斷。它使研究人員能夠調試並預測模型如何處理複雜的多代理人認知情境。

下一步行動

將 LEWM 結構整合到您的多代理人模擬環境中，以測試您的模型如何處理遞迴信念追蹤。

誰應關注：Researchers & Academics

關鍵要點

  • •引入 Local Epistemic World Models (LEWMs) 作為有向類型圖，用於追蹤代理人的信念。
  • •提供了一種形式化的認知計算定義，區別於貝葉斯或基於模擬的方法。
  • •包含殘差函數 (residue function) 以捕捉認知失敗嘗試的結構化軌跡。
  • •針對 AI 系統的社會認知失敗產生可證偽的預測。

🧠 深度解析

Web-grounded analysis with 21 cited sources.

🔑 增強重點摘要

  • •Theory of Mind Utility (ToM-U) 在分析層次上形式化了認知狀態推斷問題，明確了心智化 (mentalizing) 計算的內容和原因，且不承諾特定的演算法或神經實現方式。
  • •ToM-U 透過建構局部認知世界模型 (LEWMs) 來實現，這些模型是有向類型圖，用於表示代理人、狀態節點及其之間的認知關係，並透過評估離散的候選 LEWMs 與觀察到的行為，直到達到足夠的置信度。
  • •ToM-U 的架構包含一個有界限的遞歸心智化增殖機制 (bounded proliferation mechanism for recursive mentalizing) 和三種推斷程序，這使其能夠處理多層次的心智推斷。
  • •ToM-U 被定位為一個領域無關的機制，位於目標推斷 (goal inference) 和其他下游社會認知過程的上游，這意味著它可以在廣泛的 AI 應用中作為基礎組件。
  • •ToM-U 在推斷他人信念時，會明確追蹤資訊的來源、順序以及可信度，這與僅僅預設信念狀態的貝葉斯心智理論有所不同。
📊 競品分析▸ Show
特性/方法Theory of Mind Utility (ToM-U)貝葉斯心智理論 (BToM)模擬理論 (Simulation Theory)理論-理論 (Theory-Theory)計算理性模型 (Computational Rationality Models)大型語言模型 (LLMs) 的心智能力認知架構 (Cognitive Architectures)
核心方法形式化計算框架，使用局部認知世界模型 (LEWMs) 追蹤信念，不依賴神經實現假設。概率圖模型 (如 POMDPs)，透過觀察行為推斷信念和慾望等心理狀態，進行逆向規劃。代理人透過模擬他人的內部狀態來建立心理模型，以預測行為。知識以理論形式表示，透過認知模型 (如 BDI) 進行推斷。形式化計算理性用戶模型，明確建模有限記憶如何導致有偏見的信念狀態和次優決策。透過大規模文本數據的模式匹配，展現出心智能力，但可能缺乏真正的理解或明確的心理狀態。系統的藍圖，整合感知、記憶、學習和推理模組，旨在模仿人類思維過程 (如 ACT-R, SOAR)。
信念處理形式化推導信念狀態，追蹤資訊來源、順序和可信度。預設信念狀態，透過貝葉斯推斷更新。透過內部模擬來推斷他人的想法和感受。透過預定義的理論結構來表示和推斷信念。推斷潛在的認知限制和有偏見的信念狀態。透過語言模式和上下文形成內部「信念」，但其機制可能與人類不同。透過符號規則和結構化知識表示來處理信念。
認知失敗處理包含殘差函數 (residue function) 以捕捉認知失敗嘗試的結構化軌跡。通常不直接形式化認知失敗的結構化軌跡，而是處理不確定性。模擬失敗可能導致預測錯誤，但缺乏明確的失敗追蹤機制。依賴理論的完整性，理論不足可能導致失敗。建模次優行為是認知限制和偏見信念的結果。錯誤率在代表性不足的群體中顯著上升，實驗室數據到現實世界的準確性下降。根據架構設計，可能包含錯誤檢測和學習機制。
可證偽性產生關於心智化失敗的方向性、可證偽的預測。透過概率預測行為，可進行實證檢驗。透過模擬結果與實際行為的比較進行驗證。透過理論預測與觀察結果的比較進行驗證。透過模擬和推斷方法驗證模型是否能準確恢復認知限制。透過在心智任務上的表現進行評估，但對內部機制的可解釋性有限。透過其在推理、學習和適應性方面的表現進行評估。
實現假設不承諾演算法或神經實現。通常基於概率推理。基於內部模型模擬。通常基於符號表示和規則。基於計算理性框架和粒子濾波等推斷方法。基於神經網路 (如 Transformer 架構)。可以是符號式、連接主義或混合式。

🛠️ 技術深入

  • LEWMs 被定義為有向類型圖 (directed typed graphs)，用於表示代理人 (agents)、狀態節點 (state nodes) 以及它們之間的認知關係 (epistemic relationships)。
  • 代理人節點的屬性包括有序的資訊存取歷史 (ordered information access history)，這對於追蹤「誰告訴了他們什麼，以什麼順序，以及可信度如何」至關重要。
  • ToM-U 包含一個有界限的增殖機制 (bounded proliferation mechanism)，用於處理遞歸的心智化 (recursive mentalizing)，即代理人推斷他人對他人的信念。
  • 該框架透過五個形式化定義來指定 LEWM 結構、代理人節點屬性、增殖機制、三種推斷程序 (inference procedures) 以及殘差函數 (residue function)。
  • 殘差函數的目的是捕捉失敗的心智化嘗試所留下的結構化軌跡，這有助於系統從錯誤中學習和改進。
  • ToM-U 透過建構和評估離散的候選 LEWMs，並將其與觀察到的行為進行比較，直到達到足夠的置信度來推斷認知狀態。

🔮 前景展望AI analysis grounded in cited sources

AI系統將能更精確地理解和預測人類行為，尤其是在複雜的社會情境中。
ToM-U 提供了一種形式化的框架來推斷他人的信念，這對於AI在社會互動中理解意圖和預測行為至關重要。
透過ToM-U，AI系統將能更好地處理認知失敗，並從中學習，進而提升其社會認知能力。
殘差函數 (residue function) 捕捉了認知失敗嘗試的結構化軌跡，這使得AI能夠分析並改進其心智推斷過程。
ToM-U的領域無關性 (domain-agnostic) 特性將促進其在多種應用場景中的部署，從而加速具備社會智能的AI發展。
作為一個領域無關的機制，ToM-U可以作為目標推斷和其他下游社會認知過程的上游組件，適用於廣泛的AI應用。

⏳ 時間線

1960s-1970s
計算心智理論 (Computational Theory of Mind, CTM) 在認知科學中獲得正統地位。
1990-01
Allen Newell 啟動了將認知架構作為認知理論軟體實例化的研究。
2000-01
提出了一種信念的計算模型，其中可以透過模擬另一個代理人的計算機制來推斷其信念。
2019-12
ArXiv 發表論文《具有心智理論的互動式 AI》，主張為 AI 賦予計算心智理論以理解和預測用戶。
2024-10
論文《邁向社會代理人更高階心智理論的計算模型》討論了當前對一階心智理論模型的關注以及更高階心智理論的潛力。
2026-06-10
ArXiv 發表論文《心智理論效用：心智化機制的正式規範》(Theory of Mind Utility: Formal Specification of a Mentalizing Mechanism)。
📄閱讀原文： ArXiv AI
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

同主題

探索 #mentalizing

同產品

更多關於 theory-of-mind-utility-(tom-u)

同來源

最新來自 ArXiv AI

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ArXiv AI ↗