Search

直接匹配不多,已補上最新動態。

Tag: #c-plus-plus4 results

20 倍速 C++ Qwen 分詞器

20 倍速 C++ Qwen 分詞器

全新零分配、僅標頭 C++ Qwen 模型分詞器,在 Ryzen 5 3600 上達 1009 MB/s,幾乎是 OpenAI Tiktoken 50 MB/s 的 20 倍速。專為 HPC 設計,無依賴,為教育性優化專案。程式碼在 GitHub 上提供。

Reddit r/LocalLLaMACommunityApr 3#tokenizer#c-plus-plus#hpc-optimization