MXFP8 GEMM 達 cuBLAS 99% 效能
Meta/PyTorch 工程師詳述 CUDA + PTX 中的 MXFP8 GEMM 核心設計,儘管 FP8 限制仍達 cuBLAS 99% 效能。包含挑戰深度剖析與 PyTorch 整合連結,用於 B200 GPU 的 DeepSeek-V3 訓練。
直接匹配不多,已補上最新動態。
Tag: #fp83 results
Meta/PyTorch 工程師詳述 CUDA + PTX 中的 MXFP8 GEMM 核心設計,儘管 FP8 限制仍達 cuBLAS 99% 效能。包含挑戰深度剖析與 PyTorch 整合連結,用於 B200 GPU 的 DeepSeek-V3 訓練。
摩爾線程在 FP8 技術研發上取得系統性突破,成為國內少數掌握此技術的 GPU 廠商,全球與 Nvidia 保持同步。基於平湖架構的 MTT S5000 提供最高 1000 TFLOPS FP8 AI 算力,配備 80GB 顯存,並支援全精度計算。MUSA 平台實現與 PyTorch、vLLM 等主流 AI 生態的深度相容。
Feather 使用自訂 Triton 核心與位元打包,在 RTX 3050 等 Ampere GPU 上模擬 FP8 推論,TinyLlama 相較 FP32 達 1.5 倍加速且精度損失極小。聚焦記憶體頻寬最佳化,無需原生硬體支援。未來計畫涵蓋 CUDA Graphs、區塊量化及 Llama 支援;獲 PyTorch 歐洲大會 2026 接受。

OpenAI 表示 Codex 活躍使用者已突破 2,000 萬,第三方追蹤數據則顯示其近期增速超越 Claude Code。Claude Code 目前規模仍較大且深受開發者採用,但隨著 Anthropic 接近早期市場飽和,其高速成長已經放緩。
中國多項臨床試驗正利用腦機介面,協助脊髓損傷患者站立與行走,並讓失明患者恢復有限的視覺感知。試驗結果差異很大,凸顯這項技術的潛力,以及目前在訊號採集、解碼與復健方面的限制。

據報 Alibaba 正合併電商業務、整合雲端與晶片業務,並將 Qwen 拆分為獨立子公司。報導亦涵蓋 Unitree 計畫登陸科創板、Anthropic 據傳的年化營收,以及 Alibaba 持續投入 AI 對利潤與現金流造成的壓力。

California 與其他 28 個州指控 Meta 設計 Facebook 和 Instagram 使其具成癮性、違反兒童隱私法,並隱瞞相關做法。檢方將其涉嫌採取的策略概括為「吸引、留住、收集、隱瞞」。

Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型,具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁,但開發者、參數量、訓練資料與正式基準排名仍未獲確認。

Cloudflare 推出 Agent Tracing,支援設定 Payload 截斷限制。不同支援的 Agent 框架在 Payload 預設記錄策略上有所差異,因此開發者在設定可觀測性時需要檢查各框架的個別設定。

編劇、導演與製片人正接下臨時工作,教導 AI 系統編劇與製作規劃等技能。時薪介於 12 至 200 美元之間,但部分工作者認為這等同於協助自動化自己的職業。