• (几乎没看) 一篇原理博客: https://yang-song.net/blog/2021/score/
  • (待定) DDPM 原始论文: https://arxiv.org/abs/2006.11239
  • (几乎没看) DDPM 原始实现: https://github.com/hojonathanho/diffusion
  • (几乎没看) DDPM Pytorch 实现: https://github.com/lucidrains/denoising-diffusion-pytorch
  • (主要参考) DDPM Pytorch 实现注解版博客: https://huggingface.co/blog/annotated-diffusion
  • (待定) huggingface stable diffusion 博客: https://huggingface.co/blog/stable_diffusion
  • (待定) huggingface diffuser 库介绍 notebook: https://github.com/huggingface/notebooks/blob/main/diffusers/diffusers_intro.ipynb
  • (待定) huggingface diffuser 的第一个版本 0.1.0 发布于 2022/07
  • (待定, 估计值得读, VAE, Flow, Diffuser, GAN 都写过) https://lilianweng.github.io/posts/2021-07-11-diffusion-models/

More:

问题定义: 原始图像满足某个分布 (也就是训练集). 我们最终希望得到一个模型, 能对这个分布进行采样, 也就是生成符合这个训练集分布的图像.

TODO: 这里记 $\mathbf{x}_0\in\mathbb{R}^{hw}$ 是原始的图像,