Four AI supply-chain attacks expose critical release pipeline gaps

⚡ 30-Second TL;DR

有什麼變化

50 天內發生四起重大 AI 供應鏈事件，攻擊目標皆為發布管道而非模型本身。

為什麼重要

這些漏洞顯示 AI 基礎設施目前是供應鏈攻擊的高價值目標。組織必須將安全範圍從模型安全擴展至整個 CI/CD 生命週期。

下一步行動

審查您的 CI/CD 管道配置，特別是檢查「pull_request_target」的錯誤配置，並確保 OIDC 權杖的暴露風險降至最低。

誰應關注：Developers & AI Engineers

攻擊者利用CI/CD管道中的漏洞，特別是GitHub Actions和PyPI，作為惡意程式碼注入點。
一種常見手法是透過GitHub Actions的「標籤劫持」（tag hijacking），將惡意提交強制推送到現有的版本標籤，導致依賴這些標籤的CI/CD流程執行受損程式碼。
惡意程式碼也常被注入到PyPI套件中，例如透過.pth文件。這些文件會在Python解釋器啟動時自動執行，甚至在任何明確導入之前，從而竊取SSH金鑰、雲端憑證、資料庫密碼、加密貨幣錢包和CI/CD機密等敏感資訊。
竊取的憑證隨後被用於進一步入侵供應鏈的其他環節，形成連鎖反應，例如從GitHub Actions竊取PyPI發布令牌，再用其投毒PyPI套件。
AI模型本身也面臨風險，例如透過提示注入（prompt injection）或誘使自主系統違背操作者利益進行規劃和行動，這在AI Agent紅隊測試中被特別強調。
AI技術的導入加速了社交工程攻擊的效率與逼真度，使得語音仿真、釣魚內容和對話上下文更加自然，增加了傳統防禦的難度。

四起 AI 供應鏈攻擊揭露發布管道的關鍵安全漏洞