Liu M., Tuzel O. Coupled Generative Adversarial Networks. NIPS, 2016.
概
用GAN和数据(从边缘分布中采样)来拟合联合分布.
主要内容
这篇文章想要解决的问题是, 在仅有俩组不同数据(即从各自边缘分布中采样的数据), 如何用GAN来近似二者的联合分布呢?
思想是很直接的, 让生成器的前几层共享权重, 判别器的前几层共享权重, 其直观理解是这些层实际上都反应的是数据的抽象的信息, 作者认为两个边缘分布的数据的经过特征提取后的高维的信息是一致的. 用数学符号表示就是
[g_1^l(g_1^{l-1}(cdots g_1^2(g_1^1(z)))) quad g_2^l(g_2^{l-1}(cdots g_2^2(g_2^1(z)))) \
g_1^i=g_2^i,quad i=1,ldots, k.
]
对于判别器是类似的.
当然通过这么共享权重, 两个生成器生成的图片必然有所联系, 可这两个生成器所拟合的联合分布就是我们想要的联合分布? 换言之, 我们想要的联合分布究竟是什么?
当然, 有了一个联合分布是挺有用的, 毕竟有了联合分布也就有了条件分布, 我们可以借此来做一些风格的迁移, 这也是文章提到的应用之一.
归根结底, 还是拟合联合分布这一操作让我困惑, 到底二者的联合分布是什么, 又或者什么样的分布是好的联合分布?