1. VAE & GAN
变分自编码器（Variational auto-encoder，VAE）是一类重要的生成模型（generative model）
除了VAEs，还有一类重要的生成模型GANs
VAE 跟 GAN 比较，目标基本是一致的——希望构建一个从隐变量 Z 生成目标数据 X 的模型，但是实现上有所不同。
生成模型的难题就是判断生成分布与真实分布的相似度，因为我们只知道两者的采样结果，不知道它们的分布表达式。 KL 散度是根据两个概率分布的表达式来算它们的相似度的，我们只有样本本身，没有分布表达式，当然也就没有方法算 KL 散度。
GAN 的思路很直接粗犷：既然没有合适的度量，那我干脆把这个度量也用神经网络训练出来吧。
与GANs不同的是，VAEs是知道图像的密度函数（PDF）的（或者说，是我们设定的）
————————————————
版权声明：本文为CSDN博主「Janie.Wei」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/weijie_home/article/details/119489263
