StepPRM-RTL：利用過程獎勵提升 LLM 的 RTL 合成效能
StepPRM-RTL 是一個結合了逐步軌跡建模、過程獎勵建模 (PRM) 與檢索增強微調 (RAFT) 的新框架，旨在改善 RTL 程式碼生成。相較於標準方法，它顯著提升了 Verilog 與 VHDL 生成的功能正確性與推理保真度。
Search
Tag: #llm-reasoning33 results
多代理辯論：數據清理中何時有助益、何時有害
這項研究探討了多代理辯論在數據清理中的雙重性質，揭示了雖然它會因「評論誘導的混亂」而降低生成任務的品質，但卻能顯著提升錯誤檢測能力。研究確立了辯論何時有效的數學條件，並強調了代理之間對抗性分離的必要性。
量化大型語言模型推理鏈中的冗餘現象
這項研究量化了前沿大型語言模型中的推理冗餘，發現 61% 到 93% 的推理步驟往往是不必要的。研究證明這種「過度思考」是當前長度無關結果獎勵訓練方法的結構性後果。
OSCToM：透過強化學習引導生成提升心智理論能力
OSCToM 提出了一種用於建模 LLM 中嵌套信念衝突的新方法，顯著提升了複雜社交推理任務的表現。透過結合強化學習與組合代理模型，該方法在 FANToM 等資訊不對稱基準測試中實現了卓越的準確度。
LinAlg-Bench 揭示大型語言模型數學推理的結構性失效模式
LinAlg-Bench 是一個全新的診斷基準測試，用於評估 10 個前沿大型語言模型在線性代數任務上的表現。研究發現模型在 4x4 矩陣規模時會出現關鍵行為轉折，從算術錯誤轉變為結構性幻覺與計算放棄。
ICRL：訓練大型語言模型內化自我批判能力
ICRL 是一個新型框架，旨在訓練大型語言模型內化批判，使其無需外部反饋即可提升表現。透過聯合訓練求解器與批判器，該模型能將批判帶來的成功轉化為獨立的推理能力。
MathAtlas：針對研究所等級自動形式化的全新基準測試
MathAtlas 是一個包含 52,000 筆研究所等級數學內容（如定理、定義與證明）的大型基準測試。它引入了數學依賴圖，旨在測試模型在處理複雜、多步驟數學結構時的推理能力。
CLIPR：為大型語言模型學習可遷移的潛在用戶偏好
CLIPR 是一個新的框架，使大型語言模型 (LLM) 能夠從極少的對話互動中推斷並應用潛在的用戶偏好。它能生成可執行的、可遷移的自然語言規則，從而提升跨任務與環境的決策對齊能力。
NVIDIA FP8 高吞吐量強化學習訓練
NVIDIA 實現使用端到端 FP8 精度的高吞吐量強化學習 (RL) 訓練，這對大型語言模型 (LLM) 轉向複雜推理至關重要。像群組相對策略優化 (GRPO) 等演算法透過反饋驅動迭代改進，不同於監督微調。RL 包含兩個高強度階段以提升模型效能。