🤖Reddit r/MachineLearning•較早收集於 30h
進化資料庫升級 Karpathy Autoresearch
#auto-ml#optimizationautoresearchkarpathyautoresearchopenevolvealphaevolve
💡Karpathy autoresearch 的進化升級–強化你的自動 ML 實驗!
⚡ 30-Second TL;DR
有什麼變化
以進化資料庫取代簡單 TSV 記錄
為什麼重要
強化自動研究工具,加速 ML 最佳化如新型演算法的發現。
下一步行動
造訪 https://github.com/hgarud/autoresearch 並將 evo DB 加至你的記錄設定。
誰應關注:Researchers & Academics
關鍵要點
- •以進化資料庫取代簡單 TSV 記錄
- •受 DeepMind AlphaEvolve 啟發,用於矩陣乘法發現
- •大量基於 OpenEvolve 實作
- •實現廣大空間中的自主最佳解
🧠 深度解析
背景與延伸:來自公開資料,非原文內容。引用 3 個來源。
🔑 增強重點摘要
- •在 nanochat 任務上,autoresearch 執行約 700 次自主變更,產生 15 個改善驗證指標的變更,將 'Time to GPT-2' 從 2.02 小時縮短至 1.80 小時,提升約 11%。
- •83 次實驗中僅 15 次產生可保留改善,驗證損失從 0.9979 降至 0.9697,展示代理主導的研究循環取代人類研究者設計環境。
- •Karpathy 強調需投資強健迴圈原語法、中斷/回溯機制及透明互動會話,目前 Codex 無法適當執行 autoresearch。
🛠️ 技術深入
- •代理自主編輯訓練程式碼,執行固定 5 分鐘實驗,並僅提交改善單一驗證指標的變更。
- •應用於 nanochat,從深度 12 轉移至深度 24 的累加變更,實現可測量性能提升。
- •強調非同步大規模擴展作為下一步,結合多代理協作研究。
🔮 前景展望AI analysis grounded in cited sources
Autoresearch 將成為跨產業工作原語法
其迭代迴圈適用於 LLM 訓練、程式碼生成、廣告投標最佳化及演算法交易等領域。
代理基礎設施需內建永久迴圈及回溯功能
Karpathy 指出當前模型如 Codex 缺乏此能力,阻礙自主研究擴展。
⏳ 時間線
2025-12
與 Yi Tay 討論 vibe training,為 autoresearch 奠基
2026-03
發布 autoresearch 在 nanochat 實現可測量性能提升
📎 來源 (3)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/MachineLearning ↗
每週 AI 簡報
每週一封,可隨時退訂。