TorchSpec：大規模推測解碼訓練

有什麼變化

推出 TorchSpec，用於 PyTorch 中的推測解碼訓練。

為什麼重要

TorchSpec 可加速更快推理 LLM 的開發，降低訓練自訂模型的運算成本。它將 PyTorch 定位為可擴展 AI 訓練基礎設施的領導者。

下一步行動

造訪 PyTorch Blog 安裝 TorchSpec，並在您的 LLM 訓練設定中測試推測解碼。