支架將小模型程式碼分數翻倍

🔑 增強重點摘要

• •該研究強調了「代理支架」（Agentic Scaffolding）對小參數模型的重要性，指出模型在處理複雜程式碼任務時，效能瓶頸往往不在於模型本身的推理能力，而在於上下文管理與工具呼叫的穩定性。
• •little-coder 的優化策略引入了「每輪注入」（Per-round Injection）機制，這能有效緩解小模型在長上下文視窗中容易出現的注意力漂移問題，確保模型在多步驟編碼任務中保持對工作區狀態的感知。
• •此實驗結果挑戰了業界對「模型規模決定代理能力」的傳統認知，證明透過針對性的支架工程（Scaffolding Engineering），亞 10B 模型在特定程式碼生成基準測試中可達到接近中型模型（如 30B-70B 級別）的表現。

🛠️ 技術深入

• •有限推理預算（Constrained Inference Budget）：透過限制模型在單次生成中的 Token 數量，減少了模型在複雜邏輯分支中產生幻覺的機率。
• •寫入守衛（Write Guards）：實作了嚴格的檔案寫入驗證機制，防止模型在修改程式碼時誤刪或破壞現有結構，這對於小模型處理大型專案至關重要。
• •工作區發現（Workspace Discovery）：優化了檔案系統的索引與檢索邏輯，使模型能更精準地定位相關程式碼片段，從而降低了對模型全域記憶力的依賴。

🔮 前景展望AI analysis grounded in cited sources