探索 GAN 架構與直覺

🔑 增強重點摘要

• •GAN（生成對抗網路）的核心挑戰在於訓練不穩定性，常見問題包括模式崩潰（Mode Collapse）與梯度消失，這促使了後續如 WGAN 與 WGAN-GP 等改進架構的發展。
• •DCGAN（深度卷積生成對抗網路）透過引入卷積層取代全連接層，並移除池化層（Pooling layers），顯著提升了生成影像的品質與訓練穩定性，成為生成式模型的經典基石。
• •儘管目前擴散模型（Diffusion Models）在影像生成領域已佔據主流地位，但 GAN 在即時生成任務（如 StyleGAN 系列）中仍因其極高的推論速度而保有應用價值。

🛠️ 技術深入

• •DCGAN 架構規範：生成器（Generator）使用轉置卷積（Transposed Convolution）進行上採樣，判別器（Discriminator）使用步長卷積（Strided Convolution）進行下採樣。
• •激活函數配置：生成器在輸出層使用 Tanh，其餘層使用 ReLU；判別器在所有層使用 LeakyReLU，以緩解梯度稀疏問題。
• •批次正規化（Batch Normalization）：在生成器與判別器中廣泛使用，有助於穩定訓練過程並防止模型崩潰。
• •權重初始化：建議使用平均值為 0、標準差為 0.02 的常態分佈進行權重初始化。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線