SMCEvolve: Principled Scientific Discovery via Sequential Monte Carlo

•SMCEvolve 將程式搜尋重新定義為從獎勵傾斜目標分佈中進行採樣，並透過順序蒙地卡羅 (SMC) 採樣器來近似此過程，以解決直接採樣的難題。
•該框架透過退火重加權、重採樣和變異來構建一個交互式粒子近似，從而確保收斂性。
•SMCEvolve 提供了有限樣本複雜度分析，能夠限制達到目標近似誤差所需的 LLM 呼叫預算，這對於優化資源使用至關重要。
•該系統在數學（組合幾何）、演算法效率（運行時優化）、符號迴歸和端到端機器學習研究等多個基準測試領域進行了評估，並超越了現有系統，同時使用了更少的 LLM 呼叫。
•SMCEvolve 的程式碼已公開，這有助於研究人員和開發者進一步探索和應用該框架。

核心思想：將程式搜尋重新定義為從獎勵傾斜 (reward-tilted) 目標分佈中進行採樣，並使用順序蒙地卡羅 (SMC) 採樣器進行近似。
SMC 實施：透過退火重加權 (annealed reweighting)、重採樣 (resampling) 和變異 (mutation) 來構建一個交互式粒子近似，以處理直接從目標分佈採樣的不可行性。
三大核心機制：
- 自適應父代重採樣 (adaptive parent resampling)：動態調整重採樣策略以優化粒子分佈。
- 變異與接受混合策略 (mixture of mutation with acceptance)：結合變異操作與接受準則，以有效探索程式空間。
- 自動收斂控制 (automatic convergence control)：確保採樣過程能夠穩定收斂到目標分佈。
效率保證：提供有限樣本複雜度分析，以限制達到特定近似誤差所需的 LLM 呼叫次數。
相關技術基礎：借鑒了將語言生成任務指定為機率程式中的後驗推斷問題的 SMC 框架，該框架透過維護和重新加權多個候選序列來實現受控文本生成。

SMCEvolve 將加速科學發現的自動化進程。

透過將程式演化與原則性的採樣方法結合，SMCEvolve 能夠更高效地探索複雜的解決方案空間，從而加速新科學理論和演算法的發現。

該框架將推動更具成本效益的 LLM 應用。

SMCEvolve 透過有限樣本複雜度分析來限制 LLM 呼叫預算，並在基準測試中以更少的 LLM 呼叫超越現有系統，這意味著它能降低 LLM 驅動的科學發現的運營成本。

SMCEvolve 的原則性方法將提高 LLM 驅動程式演化的可靠性。

透過引入收斂保證和明確的機制設計，SMCEvolve 為 LLM 在非確定性程式生成任務中的應用提供了更堅實的理論基礎和工程實踐。

2023-06

Lew 等人提出「透過機率程式對大型語言模型進行順序蒙地卡羅引導」框架，為 LLM 的受控生成奠定基礎。

2025-04

關於「透過順序蒙地卡羅對大型語言模型進行語法和語義控制」的研究發表，該研究建立在 Lew 等人的框架之上，並展示了 SMC 在程式碼生成、Text-to-SQL 和分子合成等領域的應用。

2026-02

「用於遮罩擴散語言模型的自獎勵順序蒙地卡羅」研究提交至 arXiv，顯示 SMC 在 LLM 領域的持續發展。

2026-05

SMCEvolve 論文「SMCEvolve：透過順序蒙地卡羅進行原則性科學發現」提交至 arXiv。

SMCEvolve：透過順序蒙地卡羅進行原則性科學發現