💻ZDNet AI•最新收集於 2h
AI 修補程式有 74% 的時間失敗
💡74% 的失敗率說明，AI 生成的資安修補程式必須接受嚴格驗證。
⚡ 30-Second TL;DR
有什麼變化
在測試案例中，AI 有 74% 的機率無法正確修補軟體漏洞。
為什麼重要
錯誤的 AI 生成修補程式可能引入新漏洞、破壞正式環境，或造成錯誤的安全感。研究結果支持以審慎且由測試驅動的方式，將 AI 應用於軟體資安作業。
下一步行動
要求每個 AI 生成的資安修補程式，在部署前通過回歸測試、漏洞掃描與人工程式碼審查。
誰應關注：Enterprise & Security Teams
關鍵要點
- •在測試案例中，AI 有 74% 的機率無法正確修補軟體漏洞。
- •研究結果質疑 AI 能安全自動化漏洞修復的假設。
- •資安團隊應維持更嚴格的人工作業監督與驗證。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •該研究由 1Password 的資安團隊進行，特別針對 AI 輔助編碼工具在處理真實世界漏洞修復時的準確性進行了壓力測試。
- •研究指出，AI 模型在修復過程中經常引入新的安全漏洞，或者未能完全消除原始漏洞，導致修復後的代碼仍處於不安全狀態。
- •數據顯示，AI 在處理複雜的依賴關係或需要跨檔案修改的漏洞時，失敗率顯著高於簡單的語法錯誤修復。
- •1Password 的報告強調了『幻覺（Hallucination）』問題在程式碼生成中的嚴重性，AI 可能會生成看似正確但邏輯錯誤的修復方案。
- •研究建議企業應採用『人機協作（Human-in-the-loop）』模式，將 AI 定位為輔助工具而非自動化決策者，並強制執行嚴格的自動化測試流程。
🛠️ 技術深入
- 研究方法論：測試集包含多種常見的軟體漏洞類型（如 SQL 注入、跨站腳本攻擊 XSS、不安全的加密實作）。
- 評估指標：以修復後的代碼是否能通過自動化安全掃描（SAST）以及功能性單元測試作為成功標準。
- 失敗模式分析：主要失敗原因包括對上下文理解不足、未能正確處理邊界條件（Edge Cases），以及對過時或不安全 API 的錯誤引用。
🔮 前景展望AI analysis grounded in cited sources
軟體開發生命週期（SDLC）將強制要求 AI 生成代碼的雙重審核機制。
由於 AI 修復漏洞的高失敗率，企業將被迫在 CI/CD 流程中加入強制性的資安專家審核步驟，以降低合規風險。
專注於『安全導向』的程式碼生成模型將成為市場新趨勢。
現有通用型 AI 模型在安全性上的表現不佳，將推動市場轉向訓練數據中包含更多安全最佳實踐的垂直領域模型。
⏳ 時間線
2023-06
1Password 擴大對 AI 輔助開發工具的內部評估與安全性研究。
2024-02
1Password 發布關於 AI 在軟體開發中潛在風險的初步觀察報告。
2025-11
1Password 完成針對 AI 自動化漏洞修復能力的深度壓力測試研究。
2026-07
正式發表關於 AI 修復漏洞失敗率高達 74% 的研究結果。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ZDNet AI ↗