Search

Tag: #consumer-gpu6 results

層複製登頂 Open LLM Leaderboard

使用者在 Qwen2-72B 中複製 7 個中間層，未修改權重即登頂 Open LLM Leaderboard。技術在 2 張 RTX 4090 GPU 上開發；完整部落格文章可閱。即将發布 Qwen3.5 變體及程式碼。

Reddit r/LocalLLaMACommunity•Mar 10#layer-duplication#benchmark-beat#consumer-gpu

阿里開源 3 款 Qwen3.5 模型，消費級顯卡可跑

阿里開源三款新 Qwen3.5 模型：Qwen3.5-35B-A3B、Qwen3.5-122B-A10B 及 Qwen3.5-27B，在多榜單超越更大前代及 GPT-5 mini。這些 MoE 與密集模型可在消費級顯卡運行，Qwen3.5-Flash 上線阿里雲，每百萬輸入 Token 僅 0.2 元。擅長 Agent 任務、程式設計、數學及多模態推理。

机器之心Media•Feb 25#open-source-llm#moe-architecture#consumer-gpu

Gemma-4-26B NVFP4 在5090基準測試

Nvidia的Gemma-4-26B-A4B-NVFP4 (18.8GB) 在5090 GPU上運行50k上下文，使用80% VRAM。基準測試幾乎匹配全精度：GPQA 79.9%、AIME 90%、MMLU Pro 84.8%。使用者確認可運作。

Reddit r/LocalLLaMACommunity•May 1#quantized-model#benchmarks#consumer-gpu

一代神卡回歸 RTX 3060 12GB 六月復產 七月上市

據博板堂最新消息，NVIDIA RTX 3060 12GB系列晶片将于今年6月恢復生產，相關晶片即將陸續到貨。此批晶片主要分配給各AIC品牌廠商，預計7月各大品牌啟動顯卡量產並推向市場。

cnBeta (Full RSS)Media•May 1#gpu-restock#nvidia-hardware#consumer-gpu