Search

Tag: #reasoning-models24 results

大型推理模型不確定性量化

大型推理模型不確定性量化

新方法使用共形預測量化大型推理模型(LRMs)的推理軌跡與答案不確定性,並提供統計保證。引入Shapley值框架,解釋不確定性來源,透過關鍵訓練範例與步驟。理論分析與實驗驗證其有效性。

ArXiv AIResearchApr 17#explainable-ai#reasoning-models
StepFlow修復LRM推理流程

StepFlow修復LRM推理流程

研究人員推出Step-Saliency,沿著大型推理模型(LRMs)的推理軌跡繪製注意力-梯度分數地圖。它揭示了淺層鎖定(Shallow Lock-in)和深層衰減(Deep Decay)故障。StepFlow作為測試時干預,提升數學、科學和程式設計任務的準確率,無需重新訓練。

ReBalance 修正 LRM 過度/不足思考

ReBalance 修正 LRM 過度/不足思考

ReBalance 是一個無需訓練的框架,利用信心度作為動態指標,緩解大型推理模型 (LRM) 的過度思考與不足思考問題。它從隱藏狀態建立推理原型,並應用即時調變的導向向量來刪減冗餘或促進探索。在 0.5B-32B 模型及九項基準測試中,證實降低輸出冗餘並提升準確度。

Page 2 of 3