最原始的GAN，量的是生成的data和真实的data的 JS 散度。这就出现了一个问题，真实的数据和产生的数据都是在高维空间的低维manifold（例如把一个二维的平面折到一个三维的空间中），所以他们的重叠会比较少，甚至可以忽略。然后通过我们采样之后，他们重叠就更加不太可能会有。
换一个直观的理解：
原始的解决办法：
后面出现的WGAN-GP给出的解决办法：
最后还是来讲讲算法：
EBGAN：
course | 李宏毅lecture 6