DDPM推导与理解：从数学建模到实际应用

DDPM推导与理解：从数学建模到实际应用

0. 前置数学知识

在深入理解DDPM之前，我们需要掌握以下三个核心数学概念：

0.1 马尔科夫链（Markov Chain）

定义：马尔科夫链是一种随机过程，具有"无记忆性"——系统的下一个状态只依赖于当前状态，而与之前的状态无关。

数学表达：
$$P(X_{t+1}=x_{t+1}|X_t=x_t,X_{t-1}=x_{t-1},...,X_0=x_0)=P(X_{t+1}=x_{t+1}|X_t=x_t)$$

在DDPM中的应用：

• 前向过程：$q(x_t|x_{t-1},x_{t-2},...,x_0)=q(x_t|x_{t-1})$
• 反向过程：$p(x_{t-1}|x_t,x_{t+1},...,x_T)=p(x_{t-1}|x_t)$

直观理解：就像天气预报，明天的天气只取决于今天的天气，而不需要考虑昨天或更早的天气情况。

0.2 贝叶斯公式（Bayes’ Theorem）

定义：贝叶斯公式描述了在已知某些条件下，如何更新事件发生的概率。

数学表达：
$$P(A|B)=\frac{P(B|A)P(A)}{P(B)}$$

在DDPM中的应用：
反向过程需要计算$p(x_{t-1}|x_t)$，通过贝叶斯公式可以从已知的前向过程$q(x_t|x_{t-1})$推导出来：
$$p(x_{t-1}|x_t)=\frac{q(x_t|x_{t-1})p(x_{t-1})}{q(x_t)}$$

直观理解：就像医生诊断，已知症状（结果）推断病因（原因）的概率。

0.3 正态分布（Normal Distribution）

定义：正态分布（高斯分布）是连续概率分布，由均值$\mu$和方差${\sigma }^2$决定。

数学表达：
$$X\sim \mathcal{N}(\mu ,{\sigma }^2)$$
$$f(x)=\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$$

关键性质

1. 对称性

• 关于均值$\mu$对称：$f(\mu +x)=f(\mu -x)$
• 均值 = 中位数 = 众数

2. 68-95-99.7规则

• 68.27%的数据落在$\mu \pm \sigma$范围内
• 95.45%的数据落在$\mu \pm 2\sigma$范围内
• 99.73%的数据落在$\mu \pm 3\sigma$范围内

3. 线性变换性质
若$X\sim \mathcal{N}(\mu ,{\sigma }^2)$，则：

• $aX+b\sim \mathcal{N}(a\mu +b,a^2{\sigma }^2)$
• 特别地：$\frac{X-\mu }{\sigma }\sim \mathcal{N}(0,1)$（标准化）

4. 独立正态变量的线性组合

一般情况：若$X_i\sim \mathcal{N}({\mu }_i,{\sigma }_i^2)$且相互独立，则：
$$\sum _{i=1}^n{a}_i{X}_i\sim \mathcal{N}(\sum _{i=1}^n{a}_i{\mu }_i,\sum _{i=1}^n{a}_i^2{\sigma }_i^2)$$

二维特殊情况：
若$X\sim \mathcal{N}({\mu }_1,{\sigma }_1^2)$，$Y\sim \mathcal{N}({\mu }_2,{\sigma }_2^2)$且独立，则：
$$aX+bY\sim \mathcal{N}(a{\mu }_1+b{\mu }_2,a^2{\sigma }_1^2+b^2{\sigma }_2^2)$$

重要推论：

• 当$a=1,b=1$时：$X+Y\sim \mathcal{N}({\mu }_1+{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$
• 当$a=1,b=-1$时：$X-Y\sim \mathcal{N}({\mu }_1-{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$
• 当$b=0$时：$aX\sim \mathcal{N}(a{\mu }_1,a^2{\sigma }_1^2)$（与线性变换性质一致）

在DDPM中的应用：
重参数化技巧本质上是利用了这个性质：
$$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ$$
可以看作是两个独立正态变量$\sqrt{{\bar{\alpha }}_t}{x}_0$和$\sqrt{1-{\bar{\alpha }}_t}ϵ$的线性组合。

5. 条件分布性质
对于联合正态分布，条件分布仍然是正态分布。

6. 中心极限定理
大量独立随机变量的和趋近于正态分布，这解释了为什么正态分布在自然界和工程中如此普遍。

在DDPM中的应用

前向过程：

• 每个时间步的转移概率都是正态分布
  $$q(x_t|x_{t-1})=\mathcal{N}(x_t;\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_{t}I)$$

反向过程：

• 神经网络学习的是正态分布的参数
  $$p_{\theta }(x_{t-1}|x_t)=\mathcal{N}(x_{t-1};{\mu }_{\theta }(x_t,t),{\Sigma }_{\theta }(x_t,t))$$

重参数化技巧：
利用正态分布的线性变换性质：
$$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ,ϵ\sim \mathcal{N}(0,I)$$

直观理解：正态分布就像测量误差，大多数值都围绕平均值分布，极端值很少出现。在DDPM中，噪声的添加和去除都遵循这种"温和"的变化模式，避免了剧烈的状态跳跃。

1. 概述

去噪扩散概率模型（DDPM, Denoising Diffusion Probabilistic Models）是一种基于概率论的生成模型，其核心思想是通过学习逆转一个逐步加噪的过程来生成数据。DDPM的发展遵循"理论指导实践"的经典路径：先建立数学框架，再设计训练算法，最终实现工程应用。

2. 数学建模：前向与反向过程

2.1 前向扩散过程（Forward Process）

前向过程是一个马尔可夫链，逐步将数据分布转换为标准高斯分布：

联合概率分布：
$$q(x_{1:T}|x_0)=\prod _{t=1}^{T}q(x_t|x_{t-1})$$

单步转移概率：
$$q(x_t|x_{t-1})=\mathcal{N}(x_t;\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_{t}I)$$

其中${\beta }_t$是预定义的噪声调度参数。

重参数化技巧：
$$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ,ϵ\sim \mathcal{N}(0,I)$$

2.2 反向去噪过程（Reverse Process）

反向过程同样是一个马尔可夫链，从噪声逐步恢复原始数据：

联合概率分布：
$$p_{\theta }(x_{0:T})=p(x_T)\prod _{t=1}^T{p}_{\theta }(x_{t-1}|x_t)$$

单步转移概率：
$$p_{\theta }(x_{t-1}|x_t)=\mathcal{N}(x_{t-1};{\mu }_{\theta }(x_t,t),{\Sigma }_{\theta }(x_t,t))$$

3. 训练目标：变分下界

3.1 证据下界（ELBO）推导

由于直接最大化似然函数$\log p_{\theta }(x_0)$不可计算，我们转而最大化证据下界：

$$\log p_{\theta }(x_0)\ge {\mathbb{E}}_q[\log p_{\theta }(x_0|x_1)]-D_{KL}(q(x_T|x_0)||p(x_T))-\sum _{t=2}^T{D}_{KL}(q(x_{t-1}|x_t,x_0)||p_{\theta }(x_{t-1}|x_t))$$

3.2 简化损失函数

通过数学推导，可以将ELBO简化为预测噪声的均方误差：

$$L_{simple}={\mathbb{E}}_{x_0,ϵ,t}[||ϵ-{ϵ}_{\theta }(x_t,t)|{|}^2]$$

4. ε_θ(x_t, t)的含义与理解

4.1 基本定义

${ϵ}_{\theta }(x_t,t)$是一个噪声预测网络，其输入为：

• 带噪声的图像$x_t$：当前时间步的观测数据
• 时间步$t$：当前处于扩散过程的哪个阶段

输出为：

• 预测的噪声$\widehat{ϵ}$：网络认为添加到原始图像中的噪声

4.2 直观理解

想象你在看一张被雨滴模糊的窗户照片：

• 输入：模糊的照片（带噪声的图像）+ 知道模糊程度（时间步）
• 任务：判断哪些部分是雨滴造成的模糊（预测噪声）
• 目的：擦掉雨滴恢复清晰照片（去噪）

4.3 数学表达

网络学习的目标是：
$${ϵ}_{\theta }(x_t,t)\approx {ϵ}_{true}$$

其中${ϵ}_{true}$是实际添加到图像中的噪声。

5. 采样过程：从噪声到图像

5.1 生成过程

采样过程是从纯噪声生成图像的逆向过程：

1. 初始化：从标准高斯分布采样$x_T\sim \mathcal{N}(0,I)$
2. 迭代去噪：对于$t=T,T-1,...,1$：
   • 预测噪声：$\widehat{ϵ}={ϵ}_{\theta }(x_t,t)$
   • 计算均值：${\mu }_{\theta }(x_t,t)=\frac{1}{\sqrt{{\alpha }_t}}(x_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}\widehat{ϵ})$
   • 采样：$x_{t-1}\sim \mathcal{N}({\mu }_{\theta }(x_t,t),{\Sigma }_{\theta }(x_t,t))$
3. 输出结果：最终得到生成的图像$x_0$

5.2 随机性的来源

每次生成不同图像的原因：

• 初始噪声：$x_T$的随机采样
• 采样噪声：每步添加的随机噪声$z\sim \mathcal{N}(0,I)$
• 可控性：通过设置随机种子可复现结果

6. 发展历史：理论到实践的演进

6.1 时间线

6.2 发展逻辑

DDPM的发展遵循"数学建模→理论验证→工程实现"的路径：

第一步：数学建模与理论推导先行

• 灵感来源：最早的“扩散过程”其实是概率图模型（如score matching、SDEs等）和物理中的扩散理论，早在无监督学习领域就有类似思想。
• 理论建模：DDPM的作者参考了无监督生成建模（比如变分自编码器VAE、GAN、score-based模型等）的思想，提出了“正向扩散+逆向去噪”的概率建模框架。
• 推导公式：推导出前向过程（加噪声的马尔可夫链）、后向过程（逆向去噪）以及对应的训练目标和采样公式。

第二步：模型训练的可行性探索

• 神经网络实现：理论上，逆扩散过程的条件概率分布难以精确建模，于是提出用神经网络（如U-Net）来近似预测噪声。
• 训练实践：通过实验，发现用神经网络预测噪声（而不是直接预测像素、或重建均值）更容易训练、效果更好。
• 损失函数选择：发现MSE噪声预测损失有很好的生成质量和收敛性。

第三步：理论与实践的不断反馈

• 实验推动理论完善：实验中不断发现哪些公式、参数、网络结构效果更好，反过来优化理论推导和采样方式（比如DDIM、score-based diffusion、采样加速等）。
• 理论启发新方法：理论上对马尔可夫链、SDE、score matching的深入理解，进一步催生了很多高效或变体的扩散模型。

7. 实际应用与启示

7.1 应用模式

7.2 核心启示

DDPM的成功展示了：

• 理论指导实践的重要性
• 数学严谨性在AI研究中的价值
• 从第一性原理出发的设计思路

8. 总结

DDPM的发展历程清晰地表明：伟大的AI模型始于深刻的数学洞察，成于巧妙的工程实现。数学建模提供了理论基础，训练可行性是理论的自然延伸，而非妥协。这种"理论先行"的研究范式，为后续生成模型的发展树立了典范。

通过理解DDPM的数学本质，我们不仅能更好地应用这一技术，更能学习其背后的科学方法论——用数学语言描述世界，用工程手段实现愿景。

参考：
1、Denoising Diffusion Probabilistic Models
2、DDPM和DDIM公式推导。(精简版)
3、[纯手撕、无PPT、大白话]从零推导diffusion_2_去噪过程
4、一个视频看懂扩散模型DDPM原理推导|AI绘画底层模型
5、大白话AI | 图像生成模型DDPM | 扩散模型 | 生成模型 | 概率扩散去噪生成模型