💼最新收集於 10m

Cohere 副總裁:企業 AI 主權需要對完整堆疊的控制權

Cohere 副總裁:企業 AI 主權需要對完整堆疊的控制權
PostLinkedIn
💼閱讀原文: VentureBeat

💡了解為何企業 AI 主權正從模型選擇轉向對完整堆疊基礎設施的控制。

⚡ 30-Second TL;DR

有什麼變化

AI 主權要求企業對數據駐留、基礎設施及整個代理堆疊擁有控制權。

為什麼重要

此觀點挑戰了業界標準的「按 Token 計費」模式,並鼓勵企業構建更具韌性且不依賴單一供應商的 AI 架構。這凸顯了對於受監管行業而言,主權 AI 基礎設施已成為競爭的必要條件。

下一步行動

評估您目前的代理架構,確保擁有一個模型路由層,能將敏感數據處理與通用任務區隔開來。

誰應關注:Enterprise & Security Teams

關鍵要點

  • AI 主權要求企業對數據駐留、基礎設施及整個代理堆疊擁有控制權。
  • 與簡單的聊天機器人相比,代理工作流正推動 Token 消耗量呈指數級增長。
  • 企業應根據任務的智慧需求與敏感度採用模型路由策略,而非僅依賴單一的前沿模型。
  • Cohere 主張採用優先考慮安全性與效率的商業模式,而非最大化 Token 消耗。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Cohere 透過其 Command R+ 模型系列,特別針對檢索增強生成(RAG)與工具使用進行了優化,以降低企業在處理複雜代理任務時的幻覺風險。
  • AI 主權的概念不僅限於數據隱私,還包括避免供應商鎖定(Vendor Lock-in),使企業能夠在不同雲端環境或地端伺服器之間遷移模型。
  • Rachad Alao 指出,企業在部署代理時,應採用「模型路由」(Model Routing)技術,根據任務複雜度自動分配輕量級模型(如 Command R)或高性能模型,以優化成本結構。
  • Cohere 與 Oracle Cloud Infrastructure (OCI) 的深度合作是其實現基礎設施控制權策略的核心,旨在為企業提供專用的 AI 運算環境。
  • 隨著代理工作流的普及,Cohere 強調「隱私優先」的架構設計,確保企業數據不會被用於訓練公共模型,這是實現 AI 主權的技術底線。
📊 競品分析▸ Show
特性Cohere (Command R+)OpenAI (GPT-4o)Anthropic (Claude 3.5 Sonnet)
核心定位企業級 RAG 與代理工作流通用型多模態模型高度安全與推理能力
定價模式優先考慮企業私有部署與效率按 Token 計費 (API)按 Token 計費 (API)
部署靈活性高 (支援地端/私有雲)中 (主要依賴 API/Azure)中 (主要依賴 API/AWS)
代理能力強 (原生工具調用優化)極強 (多模態整合)強 (長上下文與推理)

🛠️ 技術深入

  • 模型架構:Command R+ 採用了針對長上下文窗口(128k tokens)優化的 Transformer 架構,特別強化了多跳檢索(Multi-hop Retrieval)能力。
  • 代理框架:整合了先進的工具調用(Tool Use)API,允許模型自主決定何時調用外部 API、搜尋引擎或資料庫。
  • 路由機制:透過輕量級分類器(Classifier)評估輸入請求的複雜度,將簡單任務導向小型模型,複雜任務導向大型模型,以減少 Token 浪費。
  • 數據治理:支援企業級的數據隔離技術,確保在進行微調(Fine-tuning)或 RAG 檢索時,數據不會外洩至模型供應商的基礎訓練集。

🔮 前景展望AI analysis grounded in cited sources

企業將大規模轉向混合雲 AI 部署架構。
為了滿足 AI 主權與數據合規需求,企業將不再單純依賴公有雲 API,而是尋求能控制底層基礎設施的混合部署方案。
基於 Token 的計費模式將在企業市場面臨挑戰。
隨著代理工作流導致 Token 消耗量指數級增長,企業將迫使 AI 供應商轉向訂閱制或基於運算資源的固定成本模式。

時間線

2023-06
Cohere 完成 2.7 億美元 C 輪融資,專注於企業級 AI 解決方案。
2024-04
發布 Command R+ 模型,專為企業級 RAG 和代理工作流設計。
2024-07
Cohere 宣布與 Oracle 擴大合作,將 AI 模型整合至 OCI 基礎設施中。
2025-02
推出企業級 AI 平台更新,強化代理框架與模型路由功能。
2026-05
Rachad Alao 公開倡導 AI 主權,強調企業對完整技術堆疊控制權的重要性。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: VentureBeat