🤖
小模型 KV 快取技能注入技術
一種新方法將技能嵌入注入 KV 快取,讓代理技能無需膨脹提示上下文。在 Qwen2.5-0.5B-Instruct 上測試,效能提升至 65/100 分數同時節省 token。完整儲存庫與結果在 GitHub 分享。
Tag: #agent-skills13 results
一種新方法將技能嵌入注入 KV 快取,讓代理技能無需膨脹提示上下文。在 Qwen2.5-0.5B-Instruct 上測試,效能提升至 65/100 分數同時節省 token。完整儲存庫與結果在 GitHub 分享。

Vercel 舉辦 Skills Night 慶祝開放技能生態系統成長至 62,000 個技能與 200 萬 CLI 安裝。源自 Shu Ding 的 React 文件,skills 透過簡單 CLI 安裝至 Cursor 和 Claude 等代理,提供即時知識。宣布與 Socket 和 Snyk 等安全夥伴合作審核所有 skills,並推出 Audits 排行榜。
ArXiv 論文為代理技能框架提供數學定義,並評估其在資料安全限制的工業環境中小型語言模型(SLM)的益處。中等規模 SLM(12B-30B 參數)在準確度和減少幻覺方面顯著提升;80B 程式碼專用變體以更佳 GPU 效率匹配專有模型。洞見指導避免公共 API 的 SLM 部署。