🌍最新收集於 44m

ZML 推出跨晶片工具,試圖打破 Nvidia 的市場壟斷

ZML 推出跨晶片工具,試圖打破 Nvidia 的市場壟斷
PostLinkedIn
🌍閱讀原文: The Next Web (TNW)

💡使用 ZML 的跨晶片工具在非 Nvidia 硬體上運行 AI 模型,有效降低基礎設施成本。

⚡ 30-Second TL;DR

有什麼變化

ZML 軟體支援跨平台執行 AI 模型

為什麼重要

若此舉成功,將允許新創公司利用非 Nvidia 硬體進行 AI 運算,進而降低基礎設施成本。

下一步行動

評估 ZML 工具與您目前的推論堆疊,看看是否能利用更便宜或現有的非 Nvidia 硬體。

誰應關注:Developers & AI Engineers

關鍵要點

  • ZML 軟體支援跨平台執行 AI 模型
  • 支援 Nvidia、AMD、Google、Apple 及 Intel 的晶片
  • 致力於打破 AI 開發者對 Nvidia 硬體的依賴

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • ZML 的核心技術基於對 MLIR(多層次中間表示)的深度整合,使其能夠將 AI 模型編譯為針對不同硬體架構優化的機器碼。
  • 該工具特別針對推論(Inference)場景進行了優化,旨在解決開發者在部署階段面臨的硬體鎖定問題。
  • ZML 採取開源策略,透過 GitHub 發布其編譯器堆疊,以吸引社群貢獻並加速對新興 AI 加速器的支援。
  • 該公司由前 Google 和 Meta 的工程師團隊創立,具備深厚的編譯器設計與分散式系統背景。
  • ZML 的解決方案不僅支援主流 GPU,還包含對 Apple Silicon(M 系列晶片)的神經引擎(Neural Engine)優化支援。
📊 競品分析▸ Show
特性ZMLApache TVMTriton (OpenAI)Mojo (Modular)
核心定位跨硬體推論編譯深度學習編譯器堆疊GPU 核心程式語言AI 專用程式語言
硬體支援廣泛 (Nvidia/AMD/Apple/Intel)極廣 (包含嵌入式)主要針對 Nvidia跨硬體 (開發中)
定價免費 (開源)免費 (開源)免費 (開源)免費/商業授權

🛠️ 技術深入

  • 採用 MLIR 作為編譯器基礎架構,實現硬體抽象化。
  • 支援將高階 AI 模型(如 PyTorch/ONNX)直接轉換為高效能執行檔。
  • 實作了自動算子融合(Operator Fusion)技術,減少記憶體存取頻率。
  • 針對不同硬體後端(Backend)實作了特定的記憶體管理與排程策略,以最大化硬體利用率。

🔮 前景展望AI analysis grounded in cited sources

Nvidia 的 CUDA 生態系統護城河將面臨顯著侵蝕。
隨著跨平台編譯工具的成熟,開發者轉移模型部署至非 Nvidia 硬體的技術門檻將大幅降低。
AI 推論市場將出現硬體多樣化趨勢。
企業將能更靈活地根據成本與效能選擇硬體,而非僅受限於 Nvidia 的供應鏈與價格。

時間線

2025-03
ZML 公司正式成立,並獲得種子輪融資以開發跨平台編譯技術。
2025-11
ZML 發布內部測試版,初步支援 Nvidia 與 Apple Silicon 晶片。
2026-06
ZML 正式對外開源其跨晶片工具,並擴大支援 AMD 與 Intel 硬體。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: The Next Web (TNW)