
NVIDIA 極致共同設計締造全新 MLPerf 推論紀錄
NVIDIA 的極致硬體、軟體與模型共同設計,在 MLPerf Inference v6.0 中締造破紀錄效能。此方法最大化 AI 工廠產出並最小化 token 成本,超越峰值晶片規格。基準測試強調真實世界 token 產出,對 AI 營收至關重要。
Tag: #ai-factory10 results

NVIDIA 的極致硬體、軟體與模型共同設計,在 MLPerf Inference v6.0 中締造破紀錄效能。此方法最大化 AI 工廠產出並最小化 token 成本,超越峰值晶片規格。基準測試強調真實世界 token 產出,對 AI 營收至關重要。

NVIDIA 的共同設計硬體、軟體和模型,提供最高的 AI 工廠產量和最低 token 成本。嚴格的 MLPerf Inference v6.0 基準測試,測量超出峰值晶片規格的真實世界 token 輸出,推動 AI 工廠營收。

NVIDIA 強調 AI 工廠的經濟風險,1% GPU 時間損失等於每小時數百萬 token 流失。擁塞與機架級功率超額認購會侵蝕大規模產出。統一服務與即時 AI 可防範這些問題,實現最大效能。

NVIDIA Groq 3 LPX 是 Vera Rubin 平台的機架規模推論加速器。針對代理式 AI 系統的低延遲與大上下文需求設計。與 Vera Rubin NVL72 共同設計,用於快速權重生成。

NVIDIA DSX Air 支援雲端模擬完整 AI 工廠基礎設施。它整合運算、網路、安全與儲存,實現快速 Time to AI。使用者可在實體部署前設計、測試與最佳化。

Token大遷徙,由「龍蝦」引爆全球「西數東算」。定位為AI時代的「世界Token工廠」。凸顯AI運算基礎設施轉移。

英偉達執行長黃仁勳發表罕見長文,概述 AI 為從能源到應用的五層基礎設施。他主張 AI 將驅動數兆美元投資,並在 AI 工廠創造大量高技能就業機會。此架構強調即時智慧生成,需要完整硬體重塑。

禮來(Eli Lilly)推出 LillyPod,這是全球首個由製藥公司全權擁有並運營的最強大 AI 工廠。該工廠採用 NVIDIA 首個配備 DGX B300 系統的 DGX SuperPOD,旨在以前所未有的規模與精準度加速藥物發現與開發。

LG Electronics 與 NVIDIA 簽署合作備忘錄,合作範圍涵蓋機器人、AI 工廠與未來移動出行。LG 計畫於 2027 年第一季推出一款基於 NVIDIA 機器人平台的下一代雙足人形機器人。

摩洛哥正推出 AI 工廠,以推進當地 AI 發展。TechCabal 日報中特色介紹,連同非洲金融科技與監管更新,如肯亞外國收入稅及奈及利亞電子發票截止日期。