Search

直接匹配不多,已補上最新動態。

Tag: #vram-cluster1 results

律師的 256GB VRAM LLM 叢集建置

律師的 256GB VRAM LLM 叢集建置

一位律師使用 Threadripper 建置 256GB VRAM 節點,含 8 張 Nvidia V100,用於法律文件本地 RAG 及 QLORA 訓練。採用 NVLink 直通板、雙 PSU,計劃多節點叢集包含 3090 及其他舊 GPU。尋求電源線及機殼建議。

Reddit r/LocalLLaMACommunityMar 21#vram-cluster#local-setup#legal-rag