Search

Tag: #sft5 results

為何單純的 SFT 數據過濾無法有效提升安全性？

Google DeepMind 研究人員分析了為何過濾 SFT 輸出往往無法有效移除模型的不良行為。研究指出，「幽靈般」的泛化現象以及教師模型的影響，導致即使經過數據清理，與安全相關的特性仍會持續存在。

AI Alignment ForumCommunity•Jun 14#sft#llm-safety#model-alignment

利用 Self-Distilled Reasoning 改進 SFT 推理能力

AWS 引入了 Self-Distilled Reasoning (SDR)，旨在為監督式微調 (SFT) 中缺乏明確推理軌跡的數據集注入推理能力。此方法解決了推理抑制問題，並為提升 Amazon Nova 的模型性能提供了框架。

AWS Machine Learning BlogOfficial•Jul 21#fine-tuning#reasoning#sft

GSI Agent：大型語言模型綠色雨水基礎設施領域知識增強

GSI Agent 是一個框架，利用監督微調、來自市政文件的檢索增強生成，以及基於代理的推理管道，提升大型語言模型在綠色雨水基礎設施任務的表現。它引入了適用於真實檢查情境的新 GSI 資料集。實驗顯示，在 GSI 任務上 BLEU-4 分數從 0.090 提升至 0.307，同時一般知識表現保持穩定。

ArXiv AIResearch•Mar 18#domain-adaptation#rag#sft