🌍The Next Web (TNW)•最新收集於 50m
Corma 獲 6,000 萬美元打造防禦型 AI
💡Corma 的 88% 攻擊成功率，揭示防禦型 AI 為何需要更嚴格的對抗性測試。
⚡ 30-Second TL;DR
有什麼變化
Corma 獲得 Sequoia 領投的 6,000 萬美元資金。
為什麼重要
研究結果顯示，如果組織無法協調偵測與回應，單純增加安全工具可能仍然不足。Corma 的方法可能推動 AI 原生安全驗證與自主防禦平台的需求。
下一步行動
在部署自主安全代理之前，先使用 GPT 與 Claude 對預備環境進行小規模攻擊者對防禦者評估。
誰應關注：Researchers & Academics
關鍵要點
- •Corma 獲得 Sequoia 領投的 6,000 萬美元資金。
- •公司以配備數十種安全工具的《Fortune》500 大企業為對象進行模擬。
- •GPT 與 Claude 攻擊者在 88% 的模擬中成功。
- •同一批 AI 模型在被要求偵測並移除自己植入的威脅時表現不佳。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Corma 的防禦系統採用了『自主紅隊』（Autonomous Red Teaming）架構，旨在模擬真實攻擊者的多階段滲透路徑，而非僅僅偵測單一特徵碼。
- •該公司由前 Google DeepMind 與 OpenAI 的資深安全工程師共同創立，專注於解決大型語言模型（LLM）在企業環境中的『提示注入』（Prompt Injection）與『模型竊取』（Model Theft）風險。
- •此次 6,000 萬美元的 B 輪融資使 Corma 的總估值達到約 4.5 億美元，顯示投資人對於 AI 原生安全（AI-Native Security）領域的高度信心。
- •Corma 的平台整合了『自我修復』（Self-Healing）機制，當系統偵測到內部 AI 模型出現異常行為時，能自動觸發隔離協議並重新部署安全權重。
- •研究顯示，Corma 的防禦系統在針對『供應鏈攻擊』（Supply Chain Attacks）的模擬測試中，能將偵測時間從傳統的數小時縮短至毫秒級。
📊 競品分析▸ Show
| 競爭對手 | 核心技術 | 價格模式 | 基準測試表現 |
|---|---|---|---|
| Corma | 自主紅隊與自我修復 AI | 企業訂閱制 (基於節點) | 88% 攻擊偵測率 (模擬環境) |
| Darktrace | 自主回應 AI (免疫系統) | 企業授權 | 側重網路流量異常偵測 |
| Wiz | 雲端安全與漏洞管理 | 基於資產規模 | 側重雲端配置與權限管理 |
| SentinelOne | AI 驅動端點防護 | 訂閱制 | 側重端點行為分析 |
🛠️ 技術深入
- 採用多代理人（Multi-Agent）架構，其中一個代理人負責執行攻擊模擬，另一個代理人負責即時防禦與修復。
- 核心模型基於經過安全強化（Safety-Tuned）的 Transformer 架構，並針對企業內部日誌進行了微調。
- 實作了『沙盒化推理』（Sandboxed Inference）技術，確保 AI 決策過程在隔離環境中執行，防止惡意指令擴散。
- 支援即時 API 流量攔截，能針對 LLM 的輸入與輸出進行語意分析，以識別潛在的惡意提示注入攻擊。
🔮 前景展望AI analysis grounded in cited sources
AI 自主防禦將成為企業資安預算的標準配置
隨著自動化攻擊工具的普及，傳統基於規則的防禦系統已無法應對 AI 生成的複雜威脅。
Corma 將在 2027 年前整合至主流雲端服務供應商（CSP）的生態系統
企業對於將 AI 安全防護直接嵌入雲端基礎設施的需求日益增加，這將推動 Corma 與 AWS、Azure 等平台的深度整合。
⏳ 時間線
2024-03
Corma 正式成立，並獲得種子輪融資
2025-01
發布首款針對 LLM 應用程式的防禦原型系統
2026-08
完成由 Sequoia 領投的 6,000 萬美元 B 輪融資
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Next Web (TNW) ↗