LoRA 在 FP8 上損失 68% 品質—修正降至 5%

有什麼變化

FP8 E4M3 最小值 0.0625 引發 LoRA 梯度溢位

為什麼重要

現代 GPU 低精度微調的關鍵修正。實現無品質損失的 FP8 訓練，提升硬體利用率。

下一步行動

在下次 H200 微調實驗中實作 koscak.ai 的 FP8 LoRA 縮放。