SSI 曝光首個持續學習模型
由 Ilya Sutskever 創立的 Safe Superintelligence（SSI）據報曝光了首個模型。該模型被定位為公司首項針對持續學習問題的研究成果。
Search
Tag: #continual-learning27 results
NeuMoSync 提升持續學習的可塑性
NeuMoSync 是一種神經調節架構，旨在降低持續學習中的可塑性流失並改善知識轉移。它根據當前輸入與網路歷史狀態產生神經元專屬訊號，並在多項持續學習基準測試中優於現有方法。
ModelBrew 推出即時持續學習基準測試
ModelBrew 發布了專為機器學習模型中的即時持續學習所設計的新基準測試。此舉旨在解決在動態、真實環境中維持模型效能的挑戰。
調查：LLM代理記憶機制演進
這篇arXiv調查提出LLM代理記憶的三階段演進框架：儲存（軌跡保存）、反思（軌跡精煉）和經驗（軌跡抽象）。它分析了長程一致性、動態環境和持續學習等核心驅動因素。特別強調經驗階段的前瞻探索和跨軌跡抽象機制。
🤖
所有模型因矛盾崩潰而亡
LLM 推理退化與災難性遺忘源於同一問題：累積矛盾導致的結構崩潰。比擬人類大腦老化，認知衰退來自無法管理的知識衝突。暗示固定架構連續學習有內在限制。
AHC：微控制器持續偵測的元學習壓縮
AHC 是一種元學習框架，用於記憶體低於 100KB 的微控制器 (MCU) 持續物件偵測的自適應壓縮。它使用 5 步 MAML 適應、階層式尺度感知壓縮，以及雙記憶體整合。在 CORe50、TiROD 和 PASCAL VOC 上超越基準，並有遺忘界理論保證。
ALTK-Evolve：AI 代理的在職學習
Hugging Face 推出 ALTK-Evolve，這是一種用於 AI 代理的在職學習新技術。此方法讓代理能在真實任務中直接學習與適應。目標是提升代理效能，而無需完整重新訓練。
AI 代理的持續學習層級
持續學習討論通常聚焦模型權重更新，但對 AI 代理而言，學習發生在三層：模型、harness 與脈絡。此層級觀點改變建構隨時間改善系統的方式。
模仿無法教會持續學習
本文主張，LLMs 使用的模仿學習無法實現如 Deep Q-Network、AlphaZero 或人類大腦般的真正持續學習。真正持續學習能建立新知識結構、支援從零開始的開放式成長，並在無專家範例下發明新概念。LLM 討論常將其窄化為記憶問題，可用更長上下文或 RAG 解決。
📰
Google HOPE 的 PyTorch 忠實再現版
開發者發布Google Nested Learning/HOPE論文（arXiv）的改良PyTorch實作。支援pip install、CLI工具如nl train及機制檢查。儲存庫達600+星；尋求使用回饋。