本文主要涉及GAN网络的直观理解和其背后的数学原理。
参考课程：
计算机视觉与深度学习 北京邮电大学 陆鹏

概述

在所有生成模型中，GAN属于“密度函数未知，直接硬train”的那一类，和密度函数可定义的PixelRNN/CNN以及变分自编码器VAE有本质区别。

假设现在我们要做生成人脸的任务。我们希望找到人脸图像的真实分布，这样我们就可以直接在这个分布上取点，得到所有的人脸图像。但是分布非常复杂，不可能知道。

因此，我们考虑一个简单分布和一个将这个简单分布映射到实际分布的映射。我们使用神经网络来学习这个映射过程。

GAN的直观理解

目标函数

GAN网络的设计思路类似玩家博弈的过程，其主要优化的目标为：

符号说明：P_data是真实数据的分布，P(z)是噪声分布(可以是均匀分布、高斯分布等)， theta(g)是生成器的参数， theta(d)是判别器的参数。
公式

表示生成器生成的样本，并且

输出一个0-1之间的数，表示判别器对输入的判断，1表示是真实数据，0表示是生成的数据。

我们先看内侧max,调整theta_d(判别器的参数),使得后面式子最大。对于真实样本（Ex~data那一项），希望判别器生成1；对假样本x_hat，希望D_theta(d)把他输出成0，这样1减去之后最大。

【注意！！在讨论max的时候调整d，此时生成器g的参数是固定的！！反之亦然。】

再来看min的时候，学的是生成器g的参数。此时，前面那一项无所谓（与g无关）。此时希望

趋近于1，此时theta_d不变，我们希望生成的样本被判别器判断成1.也就是固定D的前提下，让G尽量欺骗D。

theta_d想让表达式越大越好，所以是梯度上升。

因为判别器最后输出是(0, 1)的值，所以最后一层是一个sigmoid.想让正样本越大越好，负样本越小越好，可以用一个二分类交叉熵损失（BCE）监督。【这里体会到：“似然越大越好” 等价于 “交叉熵损失越小越好”，因为那个max里面是一个概率/似然。下文会详细说明。】

但实际上，这样的渐变会有问题——

这种训练非常无效。因为一开始不好，梯度还小，学不来；后来就好了，不用再改了，但是梯度很大。
G+D是一个网络，D在G后面。优化的时候，是冻结一个，训练另一个。而梯度回传会首先经过D，再回传到G。

实际实现时，我们会将min换成max，使得梯度问题得以解决。

用下面这张图总结下GAN网络的学习过程。

【这里(a)表示的意思是：一开始，判别器没有学好，无法区分真实和生成的分布。】

数学推导

JS散度

在开始之前，先给出JS散度的定义。
JS散度度量了两个概率分布的相似度，是基于KL散度的变体，解决了KL散度非对称的问题。一般地，JS散度是对称的，其取值是0到1之间。定义如下：

JS散度是可以理解为“距离”的，因为是对称的，而KL散度不行，只能说是一种“相似程度”。

极大似然估计 VS KL散度

一般的，我们要选取一个theta,使得似然值最大。

先说结论：

最大化似然 = 最小化KL散度。

[这是整个机器学习过程中的关键理解]。

以下是简化的每个步骤：

回到GAN

Z是噪声服从的分布，这里可以取均匀分布或高斯分布。我们使用神经网络建模，学习了一个G，将Z映射到了一个密度分布P_G.
我们希望调整生成器的参数，使得G的密度分布与真实数据的密度分布接近（其中的Div表示散度，不一定是KL散度）。

但是，P_G是神经网络拟合的，Pdata是未知的，表达式我们根本写不出来，怎么优化？

这是一种解决方法。
1、虽然我们不知道这两个分布的具体表达式，但是我们可以从中获取样本！

2、接着，我们把GAN的目标式子中的z统一换成G(因为样本是从G的分布里取出来的嘛)。

3、与上面类似，我们先考虑优化判别器（对应max的部分）。
以下是结论：

最大化maxV(D, G)等价于度量P_data和P_G之间的JS散度！

我们不是没法度量Div(Pg,Pdata)嘛？现在找到度量方式了！

只需要最大化V(D, G),便可以度量Pg和Pdata之间的JS散度。

先忽略结论的证明，我们绕开了Pdata和Pg数学表达式无法获得的问题，解决了度量两个密度分布的方法。因为maxV的时候，只需要把训练样本输入到神经网络中即可训练theta_G！

换言之，训练神经网络，实际就是在度量Pdata和Pg之间的JS散度。

直观的理解

关于结论的证明，首先从直观的角度出发。

如果生成的和样本很像，判别器判别很困难，V（G,D）小【因为判断困难，真实数据得不到1，生成的假数据也得不到0，V值自然不高】；反之V（G，D）大==》 这不就类似在刻画“散度”嘛？

分数越好，数值越小，它们之间的距离越小；分数越高，数值越大，它们之间的距离就越大！

理论推导

这里用了一个结论：如果想要最大化积分，那么如果对于每个x，f(x)都是最大的，那积分出来的结果也最大，这样我们就去掉了积分符号。
在x给定的情况下，我们要找到最大的D’，对D求导即可。

将前面求出的D’带入V(G, D),并人为加入1/2的因子，朝着JS散度的方向化简。

最后我们便会发现，把最优参数带入后，此时的V(G, D)取到max值，也就是在度量Pdata与PG的JS散度。所以，判别器的输出值就代表了Pdata和Pg的差异！判别器输出值越大，表示Pdata和Pg分的越开；输出值越小，表示他们离得越近。

手动推导和简化每个步骤的过程：

看目标

我们已经证明了，最大化V(D, G)就等价于计算了JS散度。所以对于上面的3个G，在固定G的情况下，我们可以得到D’为图中红色竖线的值(这时V最大)。
而生成器的优化目标为：找到一个最优参数G，使得生成的P_G的概率分布和真实数据的概率分布之间的差异越小越好。
假设我们现在G的候选参数就这三个，那就是从三个值里选择最小的值，G3就是最后学到的结果（因为他的V最小，而V是JS散度的刻画，生成器希望差异小）。

“判别器，最大化V(G, D)”可以理解为在蓝色的线上找最大值；
“生成器，最小化Div”可以理解为从所有红线中找出最小值。

而关键的桥梁“距离”，就是通过maxV(G, D）实现的。

实际操作

实际做的时候，可以用BCE做损失函数监督。【再次体现最大化似然等价最小化交叉熵】

Summary

但是其实GAN还是有很多问题的，这也是为什么后来出现了WGAN等，这个在这里就按下不表了。