🤖Reddit r/MachineLearning•最新收集於 6m
解析潛在推理的前沿版圖
#latent-reasoning#recurrent-models#continual-learning#test-time-computelatent-reasoning-architecturesbdh-cqhrmtrmcoconutarc-agi-1
💡了解 BDH-CQ、HRM、TRM 與 Coconut 如何超越傳統 chain-of-thought。
⚡ 30-Second TL;DR
有什麼變化
文章認為，口語化的 chain-of-thought 未必忠實呈現模型產生答案時實際執行的計算。
為什麼重要
如果這些方法能可靠擴展，AI 開發者可能會從最佳化更長的可見 CoT 軌跡，轉向在隱藏循環狀態中進行計算的架構。不過，任務適應方式、傳導式評估與基準測試方法的差異，仍使直接比較相當困難。
下一步行動
在你的推理任務上，將小型 Coconut 式隱藏狀態迴圈與語言化 CoT 進行基準測試，分別量測準確率、延遲、token 用量與適應成本。
誰應關注：Researchers & Academics
關鍵要點
- •文章認為，口語化的 chain-of-thought 未必忠實呈現模型產生答案時實際執行的計算。
- •Coconut 與 Soft Thinking 透過連續隱藏狀態或概念狀態進行推理，而非完整生成語言化的中間步驟。
- •HRM 與 TRM 會遞迴細化潛在狀態和答案狀態，但其 ARC 流程在評估前使用了任務特定的最佳化。
- •BDH-CQ 在推論時將示範寫入循環記憶，再透過獨立的潛在迭代計算解決新輸入。
- •作者指出，任務如何被學會，以及計算發生在哪個空間，是比較潛在推理系統的兩個關鍵維度。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Reddit r/MachineLearning ↗
每週 AI 簡報
每週一封，可隨時退訂。