
Preping:透過提案者引導的合成練習建立代理記憶
Preping 是一個新的框架,讓 AI 代理在接觸真實任務前,透過自我生成的合成練習來建立程序性記憶。透過「提案者-求解者-驗證者」的循環,該框架能確保高品質的記憶構建,並顯著降低相較於傳統線上方法的部署成本。
Tag: #synthetic-data54 results

Preping 是一個新的框架,讓 AI 代理在接觸真實任務前,透過自我生成的合成練習來建立程序性記憶。透過「提案者-求解者-驗證者」的循環,該框架能確保高品質的記憶構建,並顯著降低相較於傳統線上方法的部署成本。

Moore Threads 與 Guangyun Intelligence 合作開發高信賴合成資料解決方案,用於具身 AI。結合 Moore Threads 國產 GPU 運算與 Guangyun 自研模擬平台。此舉聚焦主權運算與模擬能力。
OpenSimula 是 Davidson 等人的 Simula 機制設計實驗性開源 Python 實作,已加入 AfterImage 資料集工具。針對 SFT/評估設定中的推理空間控制多樣性,使用 LLM 分類法、抽樣與批評迴圈。提供儲存庫、文件與實驗性 API 免責聲明。

LACE 透過跨執行緒注意力,將孤立的 LLM 推理轉變為協調平行過程,讓路徑分享洞見並互相修正錯誤。它使用合成資料管線訓練缺乏於自然資料的協作行為。實驗顯示相較標準平行搜尋,準確率提升超過 7 點。

新研究警告,使用其他模型輸出訓練LLM,可能會隱性傳遞偏差,即使從原始訓練資料中清除。這種「老師-學生」動態會將不良特徵嵌入新模型。研究強調合成資料在LLM開發中的風險。

蘋果研究人員提出學習理論框架,平衡合成與真實數據,解決分布不匹配問題。他們利用演算法穩定性推導泛化誤差界,並依據Wasserstein距離計算最佳合成對真實數據比例。此方法以核嶺迴歸情境為動機。

Apple 的 AutoPlay 可擴展合成任務生成,用於後訓練 MLLM 在電腦使用、網頁導航和機器人等代理領域。透過探索克服昂貴的人工註解和有限提示,生成多樣、可行、可驗證的任務。此方法大幅提升任務覆蓋率。

這篇 arXiv 論文指出現代 LLM 的三大限制:知識獲取資料低效、依賴有限的人類資料,以及受限於人類訓練流程。它提出合成資料放大以高效更新小規模語料庫、自生成資料啟動預訓練(無需蒸餾),以及測試時演算法空間搜尋。這些步驟旨在實現持續自我改進的 AI 系統。

研究人員開發了一個合成環境管線,用於使用 SWE-agent 框架訓練機器學習代理。此管線產生基於真實 Huggingface 資料集且經自除錯驗證的 ML 挑戰。使用 GPT-5 軌跡訓練的學生模型,在 MLGym 基準測試上將 Qwen3-4B 提升 9%,Qwen3-8B 提升 12%。

NVIDIA 推出 Cosmos 世界基礎模型,用於生成高保真、物理感知的合成資料,適用於人形機器人和自動駕駛車輛等 AI 驅動機器人。這解決了真實世界資料集的限制,提升泛化能力和邊緣案例處理。無需大量真實世界資料收集,即可實現可擴充訓練。