Draft-Thinking 大幅降低長鏈思考成本

#chain-of-thought#curriculum-learning#efficient-reasoningdraft-thinkingarxivmath500

💡長鏈思考預算減 82%，性能僅降 2.6%—高效推理突破。（38字）

⚡ 30-Second TL;DR

有什麼變化

引入草稿式推理避免長鏈思考過度思考

為什麼重要

實現推理密集型 LLM 的低成本生產部署。無需犧牲準確度即可降低 token 成本，有利於可擴展 AI 應用。

下一步行動

使用 Draft-Thinking 課程在數學基準上微調您的 LRM。

誰應關注：Researchers & Academics

背景與延伸：來自公開資料，非原文內容。引用 6 個來源。

•Draft-Thinking 訓練分三階段進行：首先學習草稿式推理結構，其次透過漸進課程內化高效模式，最後引入自適應提示實現推理深度自調。[1]
•在不同模型規模與任務上，草稿推理模式將平均 token 預算從 5,668 降至 986，準確率維持 90.6%。[1]
•完整 Draft-Thinking 方法在四個資料集上取得最高 EFF 指標，優於排除 Draft SFT 的變體，後者在 AIME2025 長 CoT 性能下降 14%。[1]

•訓練流程包含三階段：Draft SFT 學習簡潔草稿結構、漸進課程學習內化高效模式、D-RL 階段實現自適應推理行為。[1]
•變體 D-RL3k→D-RL6k 排除 Draft SFT 後，在四個資料集草稿推理 EFF 表現較差，且 AIME2025 長 CoT 準確率從 60.21% 降至 51.67%。[1]
•自適應提示將推理深度從固定提示驅動轉為模型可自調行為，避免異質任務難度下的最壞情況均勻擴展。[1]

Draft-Thinking 將成為長 CoT 效率標準，提升 LRM 部署可及性

其內生化高價值步驟選擇能力大幅優於後處理 token 壓縮方法，在多資料集 EFF 指標領先。

自適應提示將擴展至多模態任務

類似 Chain of Draft 已成功應用於視訊推理，顯示草稿式思考可泛化至視覺與時序任務。

2026-03

Draft-Thinking 論文發布於 arXiv，展示 MATH500 82.6% 預算降低

Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.

AI 週報

閱讀本週精選 AI 大事摘要 →

同主題

探索 #chain-of-thought

同產品

更多關於 draft-thinking

同來源

最新來自 ArXiv AI

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ArXiv AI ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週 AI 簡報

每週一封，可隨時退訂。