对抗式神经网络

对抗式神经网络-2.训练GAN目录1.了解GAN1.了解GANPART11.了解GAN对于GAN，一个简单的理解是可以将其看做博弈的过程，我们可以将生成模型和判别模型看作博弈的双方1.了解GAN1.比如在犯罪分子造假币和警察识别假币的过程中[1]生成模型G相当于制造假币的一方，其目的是根据看到的钱币情况和警察的识别技术，去尽量生成更加真实的、警察识别不出的假币[2]判别模型D相当于识别假币的一方，其目的是尽可能的识别出犯罪分子制造的假币这样通过造假者和识假者双方的较量和朝目的的改进，使得最后能达到生成模型能生成尽可能真的钱币、识假者判断不出真假的纳什均衡效果(真假币概率都为0.5)这意味着造假者做不出假币2.训练GANPART22.训练GAN2.我们可以将上面的场景映射成图片之间生成模型和判别模型之间的博弈过程博弈的简单模式如下：生成模型生成一些图片->判别模型学习区分生成的图片和真实图片->生成模型根据判别模型改进自己，生成新的图片->判别模型再学习区分生成的图片和真实图片.....上面的博弈场景会一直继续下去，直到生成模型和判别模型别无法提升自己，这样生成模型就会成为一个比较完美的模型2.训练GAN1)定义判别器与生成器对象定义一个判别器D和一个生成器G并设置为训练模式2)定义优化器对象由于本项目的GAN在训练时每轮先更新两次D(真假样本各一次)再更新一次G，所以要定义两个判别器优化器对象(真假判别器各一个)。用Adam优化策略，lr设为"迷之2e-4"2.训练GAN3)读取上次保存的模型用于继续训练4)训练判别器和生成器的epoch循环用一个batch的真数据和一个batch的假数据各更新一次判别器(判别器为同一个)，然后更新一次生成器loss使用的是带"fluid.layers.sigmoid_cross_entropy_with_logits()"这部分代码是模型的重要部分，做了详细的注释5)打印输出、写VisualDL的log用于监视模型的训练进程6)训练结束保存模型如果保存的模型只需要用于推理，只需保存模型参数如果模型也要要用于下次继续训练，还需保存优化器参数2.训练GAN本次实验我们选用花卉数据集做图像的生成插入图片3.1训练判别器对于真图片，输出尽可能是1对于假图片，输出尽可能是02.训练GAN训练生成器对于假图片，输出尽可能是11、训练生成器时，无须调整判别器的参数训练判别器时，无须调整生成器的参数2、在训练判别器时，需要对生成器生成的图片用detach操作进行计算图截断，避免反向传播将梯度传到生成器中因为在训练判别器时我们不需要训练生成器，也就不需要生成器的梯度3、在训练判别器时，需要反向传播两次，一次是希望把真图片判为1，一次是希望把假图片判为0也可以将这两者的数据放到一个batch中，进行一次前向传播和一次反向传播即可4、对于假图片，在训练判别器时，我们希望它输出02.训练GAN而在训练生成器时，我们希望它输出1.因此可以看到一对看似矛盾的代码error_d_fake=criterion(output,fake_labels)和error_g=criterion(output,true_labels)判别器希望能够把假图片判别为fake_label，而生成器则希望能把他判别为true_label，判别器和生成器互相对抗提升2.训练GAN2.训练