PRX 第3部分 — 24小時訓練文字轉圖像模型！

🔑 增強重點摘要

• •Photoroom 公開訓練文字轉圖像 flow-matching 模型 Mirage，使用 64 張 H200 GPU 在不到 9 天內完成 1.4M 步驟訓練，並以 LADD 蒸餾實現 4 步生成。[1]
• •Hugging Face 的 Diffusers 庫支援新文字轉圖像模型如 Cosmos Predict2 (2B 及 14B 變體) 及基於 FLUX.1-schnell 的 Chroma (8.9B 參數，Apache 2.0 授權)。[3]
• •Diffusers 最近新增 SANA-Sprint 管道，一種高效擴散模型，透過混合蒸餾將推論步驟從 20 降至 1-4 步，品質媲美 Flux。[3]

🛠️ 技術深入

• •Mirage 模型採用 REPA 搭配 DINOv2 特徵、Flux 的 VAE 及 GemmaT5 文字嵌入器，訓練於 256 像素解析度，並探索 Uniform ROPE、Immiscible、LADD 蒸餾及 Muon 優化器等技術。[1]
• •Diffusers 引入單檔案模型實作，如 Flux Transformer，並新增訓練腳本如 Kontext trainer 及 Qwen-Image trainer。[3]
• •SANA-Sprint 基於預訓練基礎模型，結合混合蒸餾實現超快文字轉圖像生成，推論步驟僅 1-4 步。[3]

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線