Search

直接匹配不多,已補上最新動態。

Tag: #fp83 results

⚙️

MXFP8 GEMM 達 cuBLAS 99% 效能

Meta/PyTorch 工程師詳述 CUDA + PTX 中的 MXFP8 GEMM 核心設計,儘管 FP8 限制仍達 cuBLAS 99% 效能。包含挑戰深度剖析與 PyTorch 整合連結,用於 B200 GPU 的 DeepSeek-V3 訓練。

Reddit r/MachineLearningCommunityMar 30#fp8#gemm#nvidia-b200
⚙️

摩爾線程實現 FP8 與 Nvidia 技術同步

摩爾線程在 FP8 技術研發上取得系統性突破,成為國內少數掌握此技術的 GPU 廠商,全球與 Nvidia 保持同步。基於平湖架構的 MTT S5000 提供最高 1000 TFLOPS FP8 AI 算力,配備 80GB 顯存,並支援全精度計算。MUSA 平台實現與 PyTorch、vLLM 等主流 AI 生態的深度相容。

IT之家MediaMar 13#fp8#gpu-acceleration#ai-hardware
⚙️

舊款 GPU 透過軟體實現 FP8 推論

Feather 使用自訂 Triton 核心與位元打包,在 RTX 3050 等 Ampere GPU 上模擬 FP8 推論,TinyLlama 相較 FP32 達 1.5 倍加速且精度損失極小。聚焦記憶體頻寬最佳化,無需原生硬體支援。未來計畫涵蓋 CUDA Graphs、區塊量化及 Llama 支援;獲 PyTorch 歐洲大會 2026 接受。

Reddit r/MachineLearningCommunityFeb 26#fp8#quantization
Ox Alpha:神秘模型公開亮相

Ox Alpha:神秘模型公開亮相

Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型,具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁,但開發者、參數量、訓練資料與正式基準排名仍未獲確認。