Diffusion详谈

Tutorial on Diffusion Models for Imaging and Vision Link to Tutorial on Diffusion Models for Imaging and Vision

VAE Link to VAE

1.1 构建 Link to 1.1 构建

VAE就是一个图像$x$输入，经过encoder编码为隐变量$z$，最后经过decoder解码为$\hat{x}$。

我们期望，解码得到的$\hat{x}$能和$x$尽可能一样。

下面介绍几个概率分布来表示VAE中的变量：

• $p(x)$：未知的，$x$的分布；
• $p(z)$：$z$的分布，人为定义为均值为0方差为1的高斯分布，理由为任何概率分布都可以转变为高斯分布；
• $p(z|x)$：给定$x$时$z$的分布，和encoder相关，未知的；
• $p(x|z)$：给定$z$时$x$的分布，和decoder相关，未知的；
• $q_{\phi}(z|x)$：作为$p(z|x)$的代理分布；
• $p_{\theta}(x|z)$：作为$p(x|z)$的代理分布。

1.2 ELBO Link to 1.2 ELBO