ScoreSdeVpScheduler

ScoreSdeVpScheduler 是一个方差保持随机微分方程 (SDE) 调度器。它由 Yang Song、Jascha Sohl-Dickstein、Diederik P. Kingma、Abhishek Kumar、Stefano Ermon、Ben Poole 在 Score-Based Generative Modeling through Stochastic Differential Equations 论文中提出。

论文摘要如下：

从数据中创建噪声很容易；从噪声中创建数据是生成建模。我们提出了一种随机微分方程 (SDE)，通过缓慢注入噪声将复杂的真实数据分布平滑地转换为已知的先验分布，以及相应的逆时间 SDE，通过缓慢去除噪声将先验分布转换回数据分布。至关重要的是，逆时间 SDE 仅取决于扰动数据分布的时间相关梯度场（即分数）。通过利用基于分数的生成建模的进步，我们可以使用神经网络准确地估计这些分数，并使用数值 SDE 求解器生成样本。我们展示了该框架封装了以前基于分数的生成建模和扩散概率建模的方法，允许新的采样过程和新的建模能力。特别是，我们引入了一个预测器-校正器框架来纠正离散化逆时间 SDE 演化中的误差。我们还推导出了一个等效的神经 ODE，它从与 SDE 相同的分布中采样，但额外实现了精确的似然计算和改进的采样效率。此外，我们提供了一种使用基于分数的模型解决逆问题的新方法，正如类条件生成、图像修复和着色实验所证明的那样。结合多项架构改进，我们在 CIFAR-10 上实现了无条件图像生成的创纪录性能，Inception 分数为 9.89，FID 为 2.20，有竞争力的似然为 2.99 bits/dim，并首次展示了基于分数的生成模型生成 1024 x 1024 图像的高保真度。

ScoreSdeVpScheduler

< > 在 GitHub 上更新