Pramaana Labs Raises $27M to Bring Formal Verification to AI

•Pramaana Labs 的核心目標是將AI輸出從「可能正確」轉變為「可證明正確」，透過將稅法、臨床指南和法律條文等複雜領域知識轉化為可形式驗證的表示形式。
•該公司的方法借鑒了硬體設計和航空航天工程領域數十年來用於確保處理器計算正確性的形式驗證技術。
•Pramaana Labs 於2026年6月10日在舊金山舉辦了首屆「驗證峰會」，邀請了Vinod Khosla等業界領袖，旨在推動AI驗證領域的對話。
•除了領投方Khosla Ventures，BoldCap和Founders Future也參與了本輪種子輪融資。
•Pramaana 的技術能夠生成「證明工件」（proof artifacts），這些工件可供領域專家檢查，並提供可追溯的解釋和反例。

📊 競品分析▸ Show

公司名稱/專案	主要焦點/功能
Pramaana Labs	為高風險AI系統（如法律、製藥、稅務）提供形式驗證層，將領域知識轉化為機器可檢查的邏輯，生成可追溯的證明工件。
Theorem	專注於驗證和糾正AI生成的程式碼，旨在使形式驗證像編寫Python一樣簡單，並已用於驗證數十萬行程式碼。
TrustInSoft	利用形式化方法使AI生成的程式碼可預測，其TrustInSoft Analyzer工具為程式碼行為提供數學保證，確保記憶體安全。
Galois	積極開發AI工具，協助生成準確、穩健的系統規範，以應用於形式化方法，旨在降低工程師的認知負荷。
PitCrew	利用AWS Bedrock Guardrails上的自動化推理，根據金融法規和客戶政策驗證AI代理的決策。

Pramaana Labs 將複雜的人類知識（如稅法、臨床指南）轉化為「機器可檢查的邏輯」，透過形式化表示、證明器（provers）和求解器（solvers）進行處理。
該系統的輸出包括「證明、反例和可追溯的解釋」。
根據2026年5月的一篇arXiv論文《Pramana: A Protocol-Layer Treatment of Claim Verification in Autonomous Agent Networks》，Pramana 協議將每個重要的代理輸出包裝在一個帶有四種變體（測量、推斷、類比、引用）的ClaimAttestation中，每種變體都與針對記錄來源的verify()操作配對。
verify()操作對於MeasurementClaim和CitationClaim是確定性的；對於InferenceClaim和AnalogyClaim，其確定性取決於預言機（oracle），當預言機由大型語言模型（LLM）支援時，則為可審計重放。
Pramana 的生命週期在TLA+（時間邏輯動作）中進行規範，並在TLC（TLA+的模型檢查器）下對三個對稱簡化模型進行了窮盡驗證，總計38,563個不同的可達狀態，且沒有不變式違規。
Python參考實作通過了84個單元測試和基於屬性的測試。
ClaimAttestation的四種分類法源自古典印度認識論（pramana，有效知識手段）。

AI系統在受監管行業中的採用將加速。

透過形式驗證提供可證明、可追溯的AI輸出，Pramaana Labs 降低了在高風險領域部署AI的風險，從而促進更廣泛的採用。

形式驗證技術將成為AI開發的標準組成部分。

隨著AI系統的複雜性和影響力增加，對其可靠性和可解釋性的需求將推動形式驗證從利基應用轉變為主流實踐。

AI幻覺和錯誤的緩解將顯著改善AI在關鍵決策中的信任度。

Pramaana Labs 的方法直接解決了AI的根本性弱點，即無法保證其輸出的正確性，這對於建立對AI在法律、醫療和金融等領域的信任至關重要。

2023

聯合創始人Ranjan Rajagopalan共同創立Astra後，開始參與Pramaana Labs的創立。

2025-09

RKS PRAMAANA LABS INDIA PRIVATE LIMITED 成立，其董事包括Pramaana Labs的聯合創始人Krishnan Raghavan和Ranjan Rajagopalan。

2026-05

關於Pramana協議的學術論文《Pramana: A Protocol-Layer Treatment of Claim Verification in Autonomous Agent Networks》在arXiv上發表。

2026-06-10

Pramaana Labs 在舊金山舉辦了首屆「驗證峰會」（Verification Summit）。

2026-06-17

Pramaana Labs 宣布獲得 Khosla Ventures 領投的2,700萬美元種子輪融資。

Pramaana Labs 獲 2,700 萬美元種子輪融資，將形式驗證引入 AI