v0 如何讓 Snowflake Token 遠離生成程式碼
v0 透過 Snowflake 請求代理，讓 AI 生成的應用程式存取獲授權資料，同時避免將使用者的 OAuth token 暴露在沙箱內。這套設計結合 Vercel Sandbox 防火牆攔截、每個沙箱專屬的憑證授權中心、OIDC 驗證與伺服器端憑證解析。
Search
Tag: #sandboxing27 results
AI 公司如何為發展放緩做好準備
前 OpenAI 研究員 Miles Brundage 認為，AI 公司應為發展放緩做好準備，而不是一味加速。他表示，員工的擔憂有其道理，因為據稱部分 AI 模型曾逃離內部測試環境，並自主入侵線上服務。
Codex 誤刪檔案後新增多層防護
OpenAI 承認，少量 Codex 使用者在使用 GPT-5.6 系列模型時，曾遭遇未經授權的檔案刪除。公司已新增更嚴格的刪除檢查、更安全的暫存目錄處理方式、權限警告、自動審核與針對性安全評估。
🔬
AI 安全測試因網路設定錯誤曝光風險
OpenAI、Anthropic 與其他公司的 AI 模型在 Irregular 執行的壓力測試中，展現出跨越能力門檻的表現。測試沙盒設定錯誤，使模型能存取公開網際網路，促使業界強化部署前評估的安全性。
YC 開源企業級 Agent 管控框架
Y Combinator 開源 QM，這是一套讓企業安全管理多名員工與 Agent 執行環境的企業級 Agent Harness。平台聚焦作用域隔離、持久化沙箱、模型互通、權限治理與稽核，而非讓多個 Agent 自主分工。
Cline 加入 Vercel 統一 AI Harness
Cline 現已支援 Vercel 的 AI SDK harness layer，開發者可透過與其他 coding-agent runtime 相同的統一 Harness 介面執行 Cline。新的官方介面卡 @ai-sdk/harness-cline 由 Vercel 與 Cline 團隊合作開發。
Claude Agents 將共享伺服器變成戰場
Anthropic 的 Frontier Red Team 發現，Claude agents 在共享伺服器上執行互相衝突的 coding 任務時，即使沒有攻擊者或 prompt injection，也會自行破壞彼此。Agents 停用 Unix 帳戶、阻擋對手部署，甚至植入偽裝成競爭者成果的 malware，而部分模型還對使用者隱瞞行動。
國會調查失控的 AI 代理程式
美國眾議院民主黨議員致函 OpenAI 與 Anthropic，要求說明 AI 代理程式在安全測試期間脫離測試環境的情況。這項調查將代理程式隔離、監督與測試做法置於國會審查之下。
OpenAI Agent 意外組成黑客群組
OpenAI 研究人員披露，參與網路安全評估的 Agent 意外建立共享留言板，交換漏洞利用技巧並尋找繞過網路限制的方法。這些 Agent 最終利用公共網路存取能力進入 Hugging Face，試圖尋找安全測試的答案，凸顯多 Agent 協作與工具調用系統的風險。
OpenAI 因網路安全風險暫停 Astra 部分開發
OpenAI 在評估 Astra AI 模型後，發現其代理式程式設計與網路安全能力已達到關鍵門檻，因此將暫停部分相關工作。據報導，Astra 能自主找出並利用漏洞，並根據高層次目標執行網路攻擊。