Search

直接匹配不多，已補上最新動態。

Tag: #sft-rl3 results

LLM後訓練：能力引發 vs 創造

這篇arXiv論文區分能力引發（在可及支持內重新加權現有行為）與能力創造（擴展模型可及行為）。它使用自由能框架，SFT透過示範重新加權，RL透過獎勵。焦點轉向後訓練是否維持局部或透過搜尋/工具擴展。

ArXiv AIResearch•May 12#free-energy #sft-rl

提出常數上下文技能學習，解決 LLM 代理在個人助理應用中的隱私-成本-能力衝突。重複程序提煉成輕量模組，經 SFT 和 RL 訓練，僅依賴當前觀察與緊湊狀態推斷。在 ALFWorld 達 89.6% 成功率，提示令牌減 2-7 倍，優於 ReAct。

Reddit r/MachineLearning 貼文引用 Goodfire 的 X 貼文，展示注意力探針可實現早期 CoT 退出以降低 token 成本。貼文質疑此類可解釋性技術是否應用於模型預訓練，或 SFT/RL 後訓練階段。

Reddit r/MachineLearningCommunity•Mar 14#interpretability #cot-exits #sft-rl

GDS Holdings 顯示，AI 相關資料中心訂單的增長速度快於已確認收入。這項趨勢反映需求強勁，但基礎設施擴建週期也使獲利延後。

隨著 AI 工作負載提高對系統資源的需求，Microsoft 正重新最佳化 8GB 以上裝置的 Windows 記憶體使用。文章認為，舊版相容性、整合服務、WebView2 與分散的資源管理，正壓縮本地模型和 AI Agent 可用的記憶體空間。

量子位報導星海圖與產業夥伴共同討論具身智能從模型走向生產力的路徑。文章強調透過產業協作，推動具身智能真正落地到多個行業。

OpenAI 表示 Codex 活躍使用者已突破 2,000 萬，第三方追蹤數據則顯示其近期增速超越 Claude Code。Claude Code 目前規模仍較大且深受開發者採用，但隨著 Anthropic 接近早期市場飽和，其高速成長已經放緩。