Niv-AI 結束隱身，1200萬美元優化 GPU 效能
Niv-AI 已結束隱身模式，籌得 1200 萬美元種子資金。公司專注於測量和管理 GPU 功率突波，以從圖形處理器中擷取更好功率效能。
Search
Tag: #gpu-optimization50 results
⚙️
輕量 llama.cpp 啟動器（自動 VRAM 調校）
全新 Python 啟動器用於 llama.cpp，無依賴自動化本地推理設定。具備 VRAM 感知調校、GPU 偵測及模型特定預設。GitHub 儲存庫開放社群回饋。
駭客松冠軍分享 GPU 核心優化勝利
駭客松冠軍在 B200 GPU 上優化 LLM 核心，登頂捲積基準。使用 PyTorch Helion 自動調優至 Triton 獲 90-95% 提升。分享 MoE、KV 快取挑戰投影片。
NVIDIA MIG 與 NUMA 加速資料處理
NVIDIA Ampere、Hopper 和 Blackwell GPU 具有 NUMA 行為，但暴露單一記憶體空間，大多數程式無問題。然而，隨著新一代 GPU 頻寬增加，使用 Multi-Instance GPU 將工作負載定位至 NUMA 節點，可帶來顯著效能與功耗改善。
⚙️
高效 CUDA 掃描核心深入探討
部落格文章詳述 GPU 前綴和實作：階層式掃描、單次「骨牌」方法、解耦回溯及 warp 視窗最佳化。含程式碼、H100 效能測試及 CUB 比較。涵蓋跨區塊協調的死鎖避免。
📰
適合本地硬體的最佳開源程式編寫模型推薦
一位用戶正在尋求與 RTX 5070 和 32GB RAM 配置相容的高效能開源程式編寫模型建議。討論重點在於如何在本地硬體限制下，平衡模型參數規模以進行程式編寫與除錯任務。
Windows 11 Xbox模式實測：N卡和A卡性能全部大增強
實測顯示Windows 11 Xbox模式大幅提升Nvidia與AMD GPU性能。微軟因SteamOS競爭啟動Project K2改善作業系統。此模式將PC轉變為Xbox全螢幕體驗。
優化模型訓練中的 GPU 使用率
使用者訓練 Zipformer 模型時，在 Windows 工作管理員顯示 GPU 使用率 100%，但 Weights & Biases 圖表顯示偏低。儘管使用 WebDataset 並調整資料載入器，仍有差異。尋求 icefall Librispeech 設定的瓶頸建議。
DirectX SER 正式上線：Intel Arc B 效能增 90%
微軟結束 SER 預覽階段，將其正式整合至 DirectX Raytracing，解決光線散射隨機性導致的著色器發散問題。Intel Arc B 系列 GPU 在光線追蹤中效能提升高達 90%。
AMD 將 FSR 4.1 升頻技術導入舊款 GPU
AMD 將於今年 7 月為 Radeon RX 7000 系列推出 FSR 4.1 升頻技術，並於 2027 年支援 RX 6000 系列。此更新旨在提升超過 300 款遊戲的效能。