
NVIDIA 平台實現最低 Token 成本
NVIDIA 的共同設計硬體、軟體和模型,提供最高的 AI 工廠產量和最低 token 成本。嚴格的 MLPerf Inference v6.0 基準測試,測量超出峰值晶片規格的真實世界 token 輸出,推動 AI 工廠營收。
直接匹配不多,已補上最新動態。
Tag: #inference-benchmarks3 results

NVIDIA 的共同設計硬體、軟體和模型,提供最高的 AI 工廠產量和最低 token 成本。嚴格的 MLPerf Inference v6.0 基準測試,測量超出峰值晶片規格的真實世界 token 輸出,推動 AI 工廠營收。
NVIDIA 已開始以允許商業使用的開放授權,提供 Alpamayo 自動駕駛 AI 模型系列。新模型 Alpamayo 2 Super 宣稱在推論基準測試中取得領先表現。
Gemma-4-31B 以 NVFP4 量化在單張 RTX Pro 6000 GPU 的基準測試顯示,一用戶 64K 上下文生成速度達 44.5 tok/s。KV 快取使用 FP8 精準度以適應 32GB 模型大小。測試顯示解碼速度與 Qwen3.5 相當,但預填充較慢,建議多用戶長上下文使用快取。

Eon 使用漏積分放電(LIF)模型,將果蠅大腦重建為數位系統。中國團隊據稱進一步採用精細神經元建模,以及支援跨身體遷移的平台,推進具身智慧研究。

據報導,UBTECH 已在 WRC 內以 1:1 比例重建客戶產線。此舉為具身智慧提供更實際的驗證與部署路徑,強調產線效能與系統整合,而非機器人出貨量。

Outer Biosciences 脫離隱身模式,開發出一套能讓手術切除的人類皮膚存活最長一個月的方法。該新創將組織產生的資料輸入 AI 模型,以預測可能有用的化合物,目前已籌得約 2,300 萬美元。

中國汽車製造商表示,受 AI 資料中心需求推動,印刷電路板與多層陶瓷電容器在全球短缺 20% 至 30%,價格已超過去年的三倍。汽車記憶體價格也在短短三個月內上漲約 180%。

Truffle Security 發現 768 組外洩的 AWS 金鑰,可對企業帳戶提供廣泛控制權,其中包括 526 組根金鑰。在受測憑證中,仍有 88% 處於啟用狀態;而 AWS 的隔離政策仍允許許多具破壞性的操作。

GDS Holdings 顯示,AI 相關資料中心訂單的增長速度快於已確認收入。這項趨勢反映需求強勁,但基礎設施擴建週期也使獲利延後。

TikTok 與 ByteDance 同意支付 4 億美元,和解美國司法部提起的案件;該案指控數百萬名未滿 13 歲兒童使用平台,且其資料在未獲家長同意下遭到蒐集。愛爾蘭監管機構也曾在 2023 年因兒童帳戶問題對 TikTok 罰款 3.45 億歐元。