EDMDPMSolverMultistepScheduler
EDMDPMSolverMultistepScheduler
是 Karras 公式 的 DPMSolverMultistepScheduler
,一个来自 DPM-Solver: 用于扩散概率模型采样的快速 ODE 求解器,大约 10 步 和 DPM-Solver++: 用于扩散概率模型引导采样的快速求解器 的多步调度器,作者为 Cheng Lu、Yuhao Zhou、Fan Bao、Jianfei Chen、Chongxuan Li 和 Jun Zhu。
DPMSolver(以及改进版本 DPMSolver++)是一种快速专用的高阶扩散 ODE 求解器,具有收敛阶保证。 经验上,DPMSolver 采样只需 20 步即可生成高质量样本,即使在 10 步内也能生成相当好的样本。
EDMDPMSolverMultistepScheduler
class diffusers.EDMDPMSolverMultistepScheduler
< 源代码 >( sigma_min: float = 0.002 sigma_max: float = 80.0 sigma_data: float = 0.5 sigma_schedule: str = 'karras' num_train_timesteps: int = 1000 prediction_type: str = 'epsilon' rho: float = 7.0 solver_order: int = 2 thresholding: bool = False dynamic_thresholding_ratio: float = 0.995 sample_max_value: float = 1.0 algorithm_type: str = 'dpmsolver++' solver_type: str = 'midpoint' lower_order_final: bool = True euler_at_final: bool = False final_sigmas_type: Optional = 'zero' )
参数
- sigma_min (
float
, 可选,默认值为 0.002) — Sigma 调度表中的最小噪声幅度。这在 EDM 论文 [1] 中被设置为 0.002;合理的范围是 [0, 10]。 - sigma_max (
float
, 可选,默认值为 80.0) — Sigma 调度表中的最大噪声幅度。这在 EDM 论文 [1] 中被设置为 80.0;合理的范围是 [0.2, 80.0]。 - sigma_data (
float
, 可选,默认值为 0.5) — 数据分布的标准差。这在 EDM 论文 [1] 中被设置为 0.5。 - sigma_schedule (
str
, 可选,默认值为karras
) — 用于计算sigmas
的 Sigma 调度表。默认情况下,我们使用 EDM 论文 (https://arxiv.org/abs/2206.00364) 中介绍的调度表。其他可接受的值是 “exponential”。指数调度表已整合到此模型中:https://huggingface.co/stabilityai/cosxl。 - num_train_timesteps (
int
,默认值为 1000) — 用于训练模型的扩散步骤数量。 - solver_order (
int
,默认值为 2) — DPMSolver 的阶数,可以是1
或2
或3
。建议对于引导采样使用solver_order=2
,对于无条件采样使用solver_order=3
。 - prediction_type (
str
,默认值为epsilon
,可选) — 调度函数的预测类型;可以是epsilon
(预测扩散过程中的噪声),sample
(直接预测有噪声的样本) 或v_prediction
(参见 Imagen Video 论文的第 2.4 节)。 - thresholding (
bool
,默认值为False
) — 是否使用 “动态阈值” 方法。这对于 Stable Diffusion 等潜在空间扩散模型不适用。 - dynamic_thresholding_ratio (
float
,默认值为 0. - sample_max_value (
float
,默认为 1.0) — 动态阈值处理的阈值。仅在thresholding=True
且algorithm_type="dpmsolver++"
时有效。 - algorithm_type (
str
,默认为dpmsolver++
) — 求解器的算法类型;可以是dpmsolver++
或sde-dpmsolver++
。dpmsolver++
类型实现了 DPMSolver++ 论文中的算法。建议在使用引导采样(如 Stable Diffusion)时使用dpmsolver++
或sde-dpmsolver++
和solver_order=2
。 - solver_type (
str
,默认为midpoint
) — 二阶求解器的求解器类型;可以是midpoint
或heun
。求解器类型会略微影响样本质量,尤其是在步骤数量较少的情况下。建议使用midpoint
求解器。 - lower_order_final (
bool
,默认为True
) — 是否在最后几步使用低阶求解器。仅对 < 15 个推理步骤有效。这可以稳定 DPMSolver 的采样,尤其是在步骤 < 15 的情况下,特别是对于步骤 <= 10。 - euler_at_final (
bool
,默认为False
) — 是否在最后一步使用欧拉方法。这是数值稳定性和细节丰富度之间的权衡。这可以稳定 SDE 版本的 DPMSolver 在推理步骤较少时的采样,但有时可能会导致模糊。 - final_sigmas_type (
str
,默认为"zero"
) — 采样过程中噪声调度表的最终sigma
值。如果为"sigma_min"
,则最终 sigma 与训练调度表中的最后一个 sigma 相同。如果为zero
,则最终 sigma 设置为 0。
实现了 Karras 等人在 2022 年 [1] 中提出的 EDM 公式中的 DPMSolverMultistepScheduler。EDMDPMSolverMultistepScheduler
是一种快速专用的高阶求解器,用于扩散 ODE。
[1] Karras, Tero 等人。“阐明基于扩散的生成模型的设计空间”。https://arxiv.org/abs/2206.00364
此模型继承自 SchedulerMixin 和 ConfigMixin。查看超类文档以了解库为所有调度器实现的通用方法,例如加载和保存。
将模型输出转换为 DPMSolver/DPMSolver++ 算法所需的相应类型。DPM-Solver 旨在离散噪声预测模型的积分,而 DPM-Solver++ 旨在离散数据预测模型的积分。
算法和模型类型是解耦的。您可以对噪声预测和数据预测模型使用 DPMSolver 或 DPMSolver++。
dpm_solver_first_order_update
< source >( model_output: Tensor sample: Tensor = None noise: Optional = None ) → torch.Tensor
一阶 DPMSolver 的一步(等同于 DDIM)。
multistep_dpm_solver_second_order_update
< source >( model_output_list: List sample: Tensor = None noise: Optional = None ) → torch.Tensor
二阶多步 DPMSolver 的一步。
multistep_dpm_solver_third_order_update
< source >( model_output_list: List sample: Tensor = None ) → torch.Tensor
三阶多步 DPMSolver 的一步。
scale_model_input
( sample: 张量 timestep: 联合类型 ) →torch.Tensor
确保与需要根据当前时间步缩放去噪模型输入的调度器可以互换。通过 (sigma**2 + 1) ** 0.5
缩放去噪模型输入以匹配欧拉算法。
设置调度器的起始索引。此函数应在推理之前从管道中运行。
set_timesteps
< 源代码 >( num_inference_steps: int = None device: 联合类型 = None )
设置用于扩散链的离散时间步(在推理之前运行)。
step
< 源代码 >( model_output: 张量 timestep: 联合类型 sample: 张量 generator = None return_dict: bool = True ) → 调度器输出 or tuple
参数
- model_output (
torch.Tensor
) — 学习到的扩散模型的直接输出。 - sample (
torch.Tensor
) — 由扩散过程创建的样本的当前实例。 - generator (
torch.Generator
, 可选) — 随机数生成器。 - return_dict (
bool
) — 是否返回 SchedulerOutput 或tuple
。
返回
SchedulerOutput 或 tuple
如果 return_dict 为 True
,则返回 SchedulerOutput,否则返回一个元组,其中第一个元素是样本张量。
通过反转 SDE 来预测前一个时间步的样本。此函数使用多步 DPMSolver 传播样本。
SchedulerOutput
class diffusers.schedulers.scheduling_utils.SchedulerOutput
< 源代码 >( prev_sample: Tensor )
调度器 step
函数的输出的基类。