檢查二手 V100 GPU 是否有隱藏記憶體故障
社群提供了一個腳本，協助買家檢查二手 NVIDIA V100 GPU 的 InfoROM 是否記錄了被停用的記憶體頁面。這項提醒指出，停用或重設的 ECC 計數器可能掩蓋 VRAM 問題，直到執行 llama.cpp 工作負載時才暴露。
Search
Tag: #vram20 results
🤖
Gemma 4 31B 在單張 RTX 5090 上運行 256K 上下文
基準測試顯示 Gemma-4-31B 使用 TurboQuant KV 快取壓縮，在單張 RTX 5090 上實現完整 256K 上下文。速度從 4K 的 3,362 t/s 到 256K 的 899 t/s，生成速度為 61.5 t/s。VRAM 使用量峰值 27.7GB，得益於 4.5 倍 KV 壓縮。
Intel Arc Pro B70 價格飆升至近 2,000 美元
Intel 的 Arc Pro B70 工作站 GPU 在一個月內漲價最高達 48%，價格接近 2,000 美元。其 32GB 記憶體容量對需要較大型模型或資料集的 AI 工作負載尤其具吸引力。
⚙️
Intel 下週推出平價 32GB VRAM GPU
Intel 計劃於 3 月 31 日推出配備 32GB VRAM 的 GPU，直接售價 949 美元。具備 608 GB/s 頻寬與 290W 功耗，針對 AI 工作站設計。適合運行如 Qwen 3.5 27B 4 位元量化的本地 AI 模型。
NVIDIA 被曝籌備 9GB 顯存版 GeForce RTX 5050 升級 GDDR7、帶寬小幅提升
NVIDIA 據報正開發 GeForce RTX 5050 的 9GB 顯存變體，以區別於現有 8GB 版本。升級改用 GDDR7 記憶體，帶來小幅帶寬提升。爆料者 MEGAsizeGPU 以準確揭露 NVIDIA 產品聞名。
美光發布24 Gbit GDDR7顯存晶片，單卡最高96 GB VRAM
美光透過部落格低調公布最新GDDR7圖形顯存產品，單顆容量達24 Gbit（3 GB），速率最高36 Gbps。在適當顯存位寬下，新一代顯卡理論上可搭載最高96 GB VRAM，為高解析度遊戲與本地AI推理提供更大資源。
Hydra 新增 RTX 50 系列 VRAM 控制功能
超頻工具開發者 1usmus 更新了 Hydra，為 RTX 50 系列 GPU 加入 VRAM 與功耗上限控制功能。此次版本支援最高 +3000 MHz 的記憶體偏移。
📰
八月最佳開放權重本地 LLM
2026 年 8 月的 r/LocalLLaMA 討論聚焦於開放權重模型的快速進步，包括部分模型據稱能在實用硬體上媲美封閉式前沿系統。文章邀請使用者針對一般用途、代理式編程、創意工作與特殊應用分享推薦。
GeForce NOW 漏洞透過檔案替換解鎖遠端 Windows 桌面
據報，一項檔案替換漏洞可欺騙 Steam 啟動修改過的執行檔，讓 GeForce NOW 使用者存取底層 Windows 桌面。一名改裝者利用 Ultimate 方案的 48GB VRAM 執行本地 AI 模型，但此做法違反 GeForce NOW 服務條款，可能導致帳號遭封禁。
🤖
Gemma 4 KV 快取即使 2K 上下文也膨脹 VRAM
用戶報告無法在 40GB VRAM 上容納 Unsloth Gemma-4-31B-it-UD-Q8（35GB），即使 2K 上下文也需 Q4 KV 量化。與 Qwen3.5-27B 相比不利，後者無需量化即可完整上下文。在基準測試中 Qwen 更優。