🔗較早收集於 10m

Meta 推出 4 款新型 AI 晶片:MTIA

Meta 推出 4 款新型 AI 晶片:MTIA
PostLinkedIn
🔗閱讀原文: Wired AI
#ai-hardware#custom-silicon#data-centermtiametamtianvidia

💡Meta 自製 AI 晶片挑戰 Nvidia 主導地位—基礎設施建構者關鍵。(38字)

⚡ 30-Second TL;DR

有什麼變化

Meta 開發 4 款新型 MTIA 處理器

為什麼重要

Meta 的自製晶片可降低對 Nvidia 的依賴,減少成本並確保超大規模 AI 供應鏈安全。這加速大科技公司設計專用 AI 矽晶趨勢。從業人員將獲得 GPU 以外的新硬體選項。

下一步行動

追蹤 Meta AI 部落格,關注 MTIA 效能基準發布,以評估推論性能提升。

誰應關注:Developers & AI Engineers

關鍵要點

  • Meta 開發 4 款新型 MTIA 處理器
  • 晶片針對 AI 訓練與推薦系統
  • 屬於自有 AI 硬體計畫一部分
  • Meta 仍大量採購 Nvidia 設備

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 8 個來源。

🔑 增強重點摘要

  • 新一代 MTIA (v2) 採用 TSMC 5nm 製程,時脈提升至 1.35GHz,相較 v1 面積增加 12.9%,功耗升至 90W。[1][2]
  • MTIA v2 僅支援 AI 推論 (inference),不支援訓練 (training),針對排名與推薦模型優化,提供 3.5 倍密集運算與 7 倍稀疏運算效能提升。[1][2][3]
  • 平台層級測試顯示,新一代 MTIA 在四個關鍵模型上效能提升 3 倍,機架級 INT8 推論達近 50 petaflops,每瓦效能改善 1.5 倍。[1][2]

🛠️ 技術深入

  • 架構:8x8 處理元件 (PE) 網格,每 PE 本地 SRAM 384 KB (v2,提升 3 倍),共享片上 SRAM 256 MB (提升 2 倍),LPDDR5 離片記憶體最高 128 GB。[1][2]
  • 效能:GEMM 102.4 TFLOPS/s (INT8),51.2 TFLOPS/s (FP16/BF16);本地記憶體頻寬 1 TB/s 每 PE,片上記憶體 2.7 TB/s,離片 176 GB/s。[1]
  • 封裝:25.6mm x 16.4mm (421mm²),TDP 25W (單晶片),主機連接 8x PCIe Gen4 (16 GB/s),晶片閘數 2.35B。[1]
  • v1 規格:TSMC 7nm,800 MHz,TDP 25W,片上 SRAM 128 MB,每 PE 128 KB,LPDDR5 最高 128 GB,64 PE 網格。[5]

🔮 前景展望AI analysis grounded in cited sources

Meta 將持續依賴 Nvidia GPU 進行訓練工作負載
新一代 MTIA 僅限推論,且 Meta 放棄進階訓練晶片 MTIA Olympus 計畫,转向外部合作夥伴。[8]
MTIA v2 已於資料中心生產部署,提升推薦模型效率
Meta 確認 MTIA 已部署並處理低高複雜度排名模型,優於商用 GPU 效率。[3]

時間線

2020-01
設計第一代 MTIA v1 ASIC,針對內部推論工作負載
2024-04
發布 MTIA v1 細節與部署於資料中心
2024-04
介紹新一代 MTIA v2,TSMC 5nm 製程,推論效能大幅提升
2026-01
MTIA V3 Iris 已部署,等待 V4/V5/V6 版本

📰 事件追蹤

📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Wired AI

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。