GitHub 垃圾程式碼汙染 LLM 訓練資料

🔑 增強重點摘要

• •GitHub 上 AI 生成的儲存庫數量急劇增長，超過 430 萬個與 AI 相關的儲存庫在不到兩年內幾乎翻倍[1]，其中 693,867 個專案僅在過去 12 個月內創建，年增長率達 178%[1]，這為低品質程式碼汙染提供了規模基礎。
• •GitHub Copilot 的廣泛採用加劇了此問題：80% 的新開發者在第一週內使用 Copilot[1]，而 Copilot 現已生成開發者程式碼的 46% 平均值[2]，導致大量自動生成的程式碼被提交到公開儲存庫，其中許多品質參差不齊。
• •獨立研究顯示 Copilot 使用者的拉取請求大小中位數增加 17-23%[5]，且 AI 生成的測試包含更少的斷言[5]，表明程式碼品質和測試覆蓋率可能下降，這些低品質程式碼進入訓練資料集時會形成惡性反饋迴圈。
• •Microsoft 的 LLM 訓練資料直接依賴 GitHub 內容，而 GitHub 上 63% 的儲存庫是開源或公開的[1]，使得汙染的程式碼有高概率被納入未來的訓練集，強化模型學習到的不良編碼模式。
• •安全研究表明 Copilot 使用者的程式碼相對漏洞可能性增加 20-30%[5]，這意味著被汙染的訓練資料不僅包含低品質程式碼，還包含潛在的安全缺陷，進一步惡化 LLM 生成程式碼的安全性。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線