📊Bloomberg Technology•最新收集於 32m
Callosum 募得 1 億美元，致力降低 AI 成本
💡Callosum 募得 1 億美元，押注跨模型與晶片的任務路由以降低推論成本。
⚡ 30-Second TL;DR
有什麼變化
Callosum 在早期階段融資中籌得 1 億美元。
為什麼重要
以任務為單位進行路由，可能透過依工作負載需求選擇運算資源來降低推論成本。若成效理想，這種方法可能提升市場對異質 AI 基礎設施的需求，而非只依賴單一模型或晶片。
下一步行動
申請 Callosum 的早期使用權，並以成本與延遲指標，將其任務路由方法與目前的模型及晶片架構進行基準測試。
誰應關注：Founders & Product Leaders
關鍵要點
- •Callosum 在早期階段融資中籌得 1 億美元。
- •其軟體會將個別 AI 任務配對至不同模型與晶片。
- •英國公共 AI 基金是這家新創公司的投資者之一。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Callosum 的核心技術被稱為「AI 負載編排器」（AI Workload Orchestrator），旨在解決企業在混合雲環境中選擇模型與硬體時的複雜性。
- •該公司由前 Google DeepMind 與 NVIDIA 的資深工程師共同創立，專注於優化推理成本而非訓練成本。
- •英國公共 AI 基金（UK Public AI Fund）的參與，標誌著英國政府在推動國家 AI 基礎設施效率化方面的策略性投資。
- •Callosum 的軟體平台支援動態切換，能根據即時的延遲需求與預算限制，在毫秒級別內將任務從高成本 GPU 轉移至更具成本效益的 NPU 或 CPU。
- •除了降低成本，該平台還提供自動化的合規性檢查，確保在不同硬體上運行的模型符合資料隱私法規。
📊 競品分析▸ Show
| 特色 | Callosum | Anyscale | OctoML |
|---|---|---|---|
| 核心定位 | 跨硬體與模型的動態負載編排 | Ray 分散式運算與模型服務 | 模型編譯與硬體優化 |
| 定價模式 | 節省成本分成 (Savings-based) | 按運算資源使用量計費 | 訂閱制與專案授權 |
| 硬體支援 | GPU, NPU, CPU 混合調度 | 主要針對 GPU 集群 | 針對特定晶片進行編譯優化 |
🛠️ 技術深入
- 採用基於強化學習（Reinforcement Learning）的調度演算法，即時預測不同模型在特定硬體上的推理延遲與能耗。
- 支援 ONNX 與 TensorRT 等多種模型格式的自動轉換與部署。
- 透過輕量級代理程式（Agent）監控硬體利用率，並透過 API 與 Kubernetes 叢集深度整合。
- 具備自動化成本分析儀表板，可針對不同 AI 任務提供 ROI 報告。
🔮 前景展望AI analysis grounded in cited sources
AI 推理成本將出現結構性下降
透過軟體層面的智慧調度，企業將能更有效地利用閒置的非 GPU 運算資源，從而降低對昂貴 GPU 的依賴。
硬體供應商將面臨更激烈的軟體相容性競爭
隨著編排軟體普及，硬體廠商若無法提供良好的軟體生態與 API 支援，將更容易被自動化調度系統排除在企業採購清單之外。
⏳ 時間線
2025-03
Callosum 在倫敦正式成立，並完成種子輪融資。
2025-11
發布首個測試版平台，開始與英國金融機構進行概念驗證（PoC）。
2026-08
完成 1 億美元早期融資，由英國公共 AI 基金領投。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Bloomberg Technology ↗