💰TechCrunch AI•較早收集於 31m
Gimlet Labs 為多晶片 AI 推論募資 8000 萬美元
💡8000 萬美元技術讓 AI 推論跑任何晶片 – 擺脫 NVIDIA 鎖定？
⚡ 30-Second TL;DR
有什麼變化
募得 8000 萬美元 A 輪資金
為什麼重要
此多晶片相容性減少 AI 部署的廠商鎖定。它降低成本並提升推論密集應用之可擴展性。基礎設施團隊在晶片短缺中獲得硬體選擇彈性。
下一步行動
在您的混合晶片叢集設定中基準測試 Gimlet Labs 推論引擎。
誰應關注：Developers & AI Engineers
關鍵要點
- •募得 8000 萬美元 A 輪資金
- •跨多晶片廠商 AI 推論
- •支援 NVIDIA、AMD、Intel、ARM、Cerebras、d-Matrix
- •解決推論效能瓶頸
🧠 深度解析
本篇為 AI 生成分析，非原文內容。
🔑 增強重點摘要
- •Gimlet Labs 的核心技術採用了編譯器層級的抽象化架構，能將模型圖（Model Graph）動態映射至異質硬體架構，從而繞過特定供應商的軟體堆疊限制。
- •本輪融資由頂尖創投領投，資金將主要用於擴大工程團隊，以加速對新興 AI 加速器（如 Groq 或 Tenstorrent）的支援整合。
- •該平台透過自動化記憶體管理與算子融合（Operator Fusion）技術，顯著降低了在非 NVIDIA 硬體上運行大型語言模型（LLM）時的延遲。
📊 競品分析▸ Show
| 特性 | Gimlet Labs | Apache TVM | Triton (OpenAI) |
|---|---|---|---|
| 跨硬體支援 | 極高 (多供應商) | 高 (需手動調優) | 主要針對 NVIDIA |
| 易用性 | 高 (自動化映射) | 中 (學習曲線陡峭) | 中 (需編寫核心代碼) |
| 效能基準 | 優化異質運算 | 取決於開發者優化 | NVIDIA 硬體極致效能 |
🛠️ 技術深入
- •採用基於 MLIR（Multi-Level Intermediate Representation）的編譯器基礎設施，實現跨硬體架構的通用優化。
- •實作了動態圖執行引擎，能在運行時根據硬體負載與可用記憶體，即時調整算子執行策略。
- •支援多種主流框架（如 PyTorch, JAX）的直接導入，透過中間表示層轉換，無需重寫模型代碼即可部署至不同晶片。
🔮 前景展望AI analysis grounded in cited sources
Gimlet Labs 將迫使 AI 硬體供應商降低軟體生態系統的封閉性。
隨著跨平台推論工具的普及，企業將更傾向於選擇軟體支援度高且硬體性價比優異的晶片，而非僅依賴單一供應商。
該技術將顯著降低企業部署邊緣 AI 的硬體採購成本。
企業不再需要為特定模型購買昂貴的單一品牌 GPU，而是可以利用現有的異質硬體資源進行混合部署。
⏳ 時間線
2024-06
Gimlet Labs 成立，專注於解決 AI 推論的硬體碎片化問題。
2025-02
發布首個支援 NVIDIA 與 AMD 晶片的跨平台推論原型。
2026-03
完成 8000 萬美元 A 輪募資，並宣布支援 ARM 與 Cerebras 等多種架構。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： TechCrunch AI ↗
每週 AI 簡報
每週一封，可隨時退訂。