Search

直接匹配不多，已補上最新動態。

Tag: #gpu-kernel3 results

FlashAttention-4：在Blackwell上達1613 TFLOPs/s

FlashAttention-4 在 B200 GPU 上達到 1613 TFLOPs/s，比 Triton 快 2.7 倍，比 cuDNN 快至 1.3 倍。已整合至 vLLM 0.17.0 和 PyTorch FlexAttention，支持 GQA/MQA 模型。僅限 Hopper/Blackwell GPU，全用 Python CuTe-DSL 撰寫。

Reddit r/LocalLLaMACommunity•Mar 24#gpu-kernel #inference-speed #python-dsl

⚙️

TritonSigmoid GPU 注意力核心開源

TritonSigmoid 是快速、支援填充的 Sigmoid 注意力 GPU 核心，針對單細胞基因組學的變長序列最佳化。在 H100 上達 515 TFLOPS，超越 FlashAttention-2 的速度、準確度與穩定性。程式碼與論文現於 GitHub 與 arXiv 提供。

Reddit r/MachineLearningCommunity•May 5#sigmoid-attention #gpu-kernel #open-source

⚙️

RTX 5090 上 cuBLAS MatMul 效能 Bug 降 60%

cuBLAS 在 RTX 5090 上對批次 FP32 MatMul 派遣低效核心，僅使用 40% 運算資源。自訂 TMA 雙緩衝核心在 256-8192 大小範圍內超越 cuBLAS 高達 170%。提供詳細 NCU 剖析與重現腳本。

Reddit r/MachineLearningCommunity•Apr 10#matmul #gpu-kernel #tma

AI 需求先暴增，利潤仍在路上

GDS Holdings 顯示，AI 相關資料中心訂單的增長速度快於已確認收入。這項趨勢反映需求強勁，但基礎設施擴建週期也使獲利延後。

钛媒体Media•48m ago#data-centers #ai-demand #capacity-planning

Windows 為何成為 AI PC 的絆腳石

隨著 AI 工作負載提高對系統資源的需求，Microsoft 正重新最佳化 8GB 以上裝置的 Windows 記憶體使用。文章認為，舊版相容性、整合服務、WebView2 與分散的資源管理，正壓縮本地模型和 AI Agent 可用的記憶體空間。

虎嗅Media•1h ago#ai-pc #memory-optimization #local-inference

星海圖探索具身智能產業化

量子位報導星海圖與產業夥伴共同討論具身智能從模型走向生產力的路徑。文章強調透過產業協作，推動具身智能真正落地到多個行業。

量子位Media•2h ago#embodied-ai #industrial-ai #robotics-deployment

Codex 正縮小與 Claude Code 的差距

OpenAI 表示 Codex 活躍使用者已突破 2,000 萬，第三方追蹤數據則顯示其近期增速超越 Claude Code。Claude Code 目前規模仍較大且深受開發者採用，但隨著 Anthropic 接近早期市場飽和，其高速成長已經放緩。

虎嗅Media•2h ago#coding-agents #developer-tools #enterprise-ai

🔬