self-attention-gan-with-paddle

复现论文：在本文中，我们提出了自注意力生成对抗网络（SAGAN），它允许对图像生成任务进行注意力驱动的远程依赖建模。传统的卷积 GAN 仅根据低分辨率特征图中的空间局部点生成高分辨率细节。在 SAGAN 中，可以使用来自所有特征位置的线索生成细节。此外，鉴别器可以检查图像远处部分的高度详细特征是否相互一致。此外，最近的工作表明，生成器调节会影响 GAN 的性能。利用这一见解，我们将谱归一化应用于 GAN 生成器，并发现这可以改善训练动态。所提出的 SAGAN 实现了最先进的结果，在具有挑战性的 ImageNet 数据集上将发布的最佳 Inception 分数从 36.8 提高到 52.52，并将 Frechet Inception 距离从 27.62 降低到 18.65。注意层的可视化表明，生成器利用与对象形状相对应的邻域，而不是固定形状的局部区域。