Diffusers 文档
DPMSolverMultistepScheduler
并获得增强的文档体验
开始使用
DPMSolverMultistepScheduler
DPMSolverMultistepScheduler
是一个多步调度器,源自 Cheng Lu、Yuhao Zhou、Fan Bao、Jianfei Chen、Chongxuan Li 和 Jun Zhu 的论文 DPM-Solver:一种用于扩散概率模型采样的快速 ODE 求解器,约需 10 步 和 DPM-Solver++:用于扩散概率模型引导采样的快速求解器。
DPMSolver(及其改进版 DPMSolver++)是一种快速专用高阶求解器,用于扩散 ODE,具有收敛阶保证。根据经验,DPMSolver 仅需 20 步采样即可生成高质量样本,即使在 10 步内也能生成相当好的样本。
提示
建议将 solver_order
设置为 2 用于引导采样,将 solver_order
设置为 3 用于无条件采样。
支持 Imagen 中的动态阈值处理,对于像素空间扩散模型,您可以同时设置 algorithm_type="dpmsolver++"
和 thresholding=True
以使用动态阈值处理。此阈值处理方法不适用于潜在空间扩散模型,例如 Stable Diffusion。
DPMSolver 和 DPM-Solver++ 的 SDE 变体也受支持,但仅限于一阶和二阶求解器。这是一个用于逆向扩散 SDE 的快速 SDE 求解器。建议使用二阶 sde-dpmsolver++
。
DPMSolverMultistepScheduler
class diffusers.DPMSolverMultistepScheduler
< 来源 >( num_train_timesteps: int = 1000 beta_start: float = 0.0001 beta_end: float = 0.02 beta_schedule: str = 'linear' trained_betas: typing.Union[numpy.ndarray, typing.List[float], NoneType] = None solver_order: int = 2 prediction_type: str = 'epsilon' thresholding: bool = False dynamic_thresholding_ratio: float = 0.995 sample_max_value: float = 1.0 algorithm_type: str = 'dpmsolver++' solver_type: str = 'midpoint' lower_order_final: bool = True euler_at_final: bool = False use_karras_sigmas: typing.Optional[bool] = False use_exponential_sigmas: typing.Optional[bool] = False use_beta_sigmas: typing.Optional[bool] = False use_lu_lambdas: typing.Optional[bool] = False use_flow_sigmas: typing.Optional[bool] = False flow_shift: typing.Optional[float] = 1.0 final_sigmas_type: typing.Optional[str] = 'zero' lambda_min_clipped: float = -inf variance_type: typing.Optional[str] = None timestep_spacing: str = 'linspace' steps_offset: int = 0 rescale_betas_zero_snr: bool = False )
参数
- num_train_timesteps (
int
, 默认为 1000) — 训练模型的扩散步数。 - beta_start (
float
, 默认为 0.0001) — 推理的起始beta
值。 - beta_end (
float
, 默认为 0.02) — 最终beta
值。 - beta_schedule (
str
, 默认为"linear"
) — beta 调度,从 beta 范围到用于步进模型的一系列 beta 的映射。可选择linear
、scaled_linear
或squaredcos_cap_v2
。 - trained_betas (
np.ndarray
, 可选) — 直接向构造函数传递一个 betas 数组以绕过beta_start
和beta_end
。 - solver_order (
int
, 默认为 2) — DPMSolver 阶数,可以是1
、2
或3
。建议使用solver_order=2
用于引导采样,使用solver_order=3
用于无条件采样。 - prediction_type (
str
, 默认为epsilon
, 可选) — 调度器函数的预测类型;可以是epsilon
(预测扩散过程的噪声)、sample
(直接预测噪声样本)、v_prediction
(参见 Imagen Video 论文的 2.4 节)或flow_prediction
。 - thresholding (
bool
, 默认为False
) — 是否使用“动态阈值处理”方法。这不适用于潜在空间扩散模型,例如 Stable Diffusion。 - dynamic_thresholding_ratio (
float
, 默认为 0.995) — 动态阈值处理方法的比率。仅在thresholding=True
时有效。 - sample_max_value (
float
, 默认为 1.0) — 动态阈值处理的阈值。仅在thresholding=True
和algorithm_type="dpmsolver++"
时有效。 - algorithm_type (
str
, 默认为dpmsolver++
) — 求解器的算法类型;可以是dpmsolver
、dpmsolver++
、sde-dpmsolver
或sde-dpmsolver++
。dpmsolver
类型实现了 DPMSolver 论文中的算法,而dpmsolver++
类型实现了 DPMSolver++ 论文中的算法。对于 Stable Diffusion 等引导采样,建议使用dpmsolver++
或sde-dpmsolver++
和solver_order=2
。 - solver_type (
str
, 默认为midpoint
) — 二阶求解器的求解器类型;可以是midpoint
或heun
。求解器类型会稍微影响样本质量,特别是对于少量步数。建议使用midpoint
求解器。 - lower_order_final (
bool
, 默认为True
) — 是否在最后几步使用低阶求解器。仅适用于小于 15 个推理步骤。这可以稳定 DPMSolver 在小于 15 步(特别是小于等于 10 步)时的采样。 - euler_at_final (
bool
, 默认为False
) — 是否在最后一步使用欧拉方法。这是数值稳定性与细节丰富性之间的权衡。这可以稳定 DPMSolver 的 SDE 变体在少量推理步骤时的采样,但有时可能导致模糊。 - use_karras_sigmas (
bool
, 可选, 默认为False
) — 在采样过程中,是否使用 Karras sigmas 作为噪声调度中的步长。如果为True
,则 sigmas 根据一系列噪声水平 {σi} 确定。 - use_exponential_sigmas (
bool
, 可选, 默认为False
) — 在采样过程中,是否使用指数 sigmas 作为噪声调度中的步长。 - use_beta_sigmas (
bool
, 可选, 默认为False
) — 在采样过程中,是否使用 beta sigmas 作为噪声调度中的步长。更多信息请参阅 Beta Sampling is All You Need。 - use_lu_lambdas (
bool
, 可选, 默认为False
) — 在采样过程中,是否使用 Lu 的 DPM-Solver 提出的统一对数信噪比(uniform-logSNR)作为噪声调度中的步长。如果为True
,则 sigmas 和时间步长根据一系列lambda(t)
确定。 - use_flow_sigmas (
bool
, 可选, 默认为False
) — 在采样过程中,是否使用流 sigmas 作为噪声调度中的步长。 - flow_shift (
float
, 可选, 默认为 1.0) — 流匹配时间步长调度的偏移值。 - final_sigmas_type (
str
, 默认为"zero"
) — 采样过程中噪声调度的最终sigma
值。如果为"sigma_min"
,则最终 sigma 与训练调度中的最后一个 sigma 相同。如果为zero
,则最终 sigma 设置为 0。 - lambda_min_clipped (
float
, 默认为-inf
) — 为数值稳定性剪裁lambda(t)
最小值的阈值。这对于余弦(squaredcos_cap_v2
)噪声调度至关重要。 - variance_type (
str
, 可选) — 对于预测方差的扩散模型,设置为“learned”或“learned_range”。如果设置,模型的输出包含预测的高斯方差。 - timestep_spacing (
str
, 默认为"linspace"
) — 时间步长的缩放方式。更多信息请参阅 Common Diffusion Noise Schedules and Sample Steps are Flawed 的表 2。 - steps_offset (
int
, 默认为 0) — 推理步骤的偏移量,某些模型系列需要。 - rescale_betas_zero_snr (
bool
, 默认为False
) — 是否重新缩放 betas 以具有零终端信噪比(SNR)。这使得模型能够生成非常明亮和黑暗的样本,而不是将其限制为中等亮度的样本。与--offset_noise
松散相关。
DPMSolverMultistepScheduler
是一个用于扩散 ODE 的快速专用高阶求解器。
此模型继承自 SchedulerMixin 和 ConfigMixin。有关库为所有调度器(例如加载和保存)实现的通用方法,请查看超类文档。
convert_model_output
< source >( model_output: Tensor *args sample: Tensor = None **kwargs ) → torch.Tensor
将模型输出转换为DPMSolver/DPMSolver++算法所需的相应类型。DPM-Solver旨在离散化噪声预测模型的积分,而DPM-Solver++旨在离散化数据预测模型的积分。
算法和模型类型是解耦的。噪声预测模型和数据预测模型都可以使用DPMSolver或DPMSolver++。
dpm_solver_first_order_update
< source >( model_output: Tensor *args sample: Tensor = None noise: typing.Optional[torch.Tensor] = None **kwargs ) → torch.Tensor
一阶DPMSolver(等同于DDIM)的一个步骤。
multistep_dpm_solver_second_order_update
< source >( model_output_list: typing.List[torch.Tensor] *args sample: Tensor = None noise: typing.Optional[torch.Tensor] = None **kwargs ) → torch.Tensor
二阶多步DPMSolver的一个步骤。
multistep_dpm_solver_third_order_update
< source >( model_output_list: typing.List[torch.Tensor] *args sample: Tensor = None noise: typing.Optional[torch.Tensor] = None **kwargs ) → torch.Tensor
三阶多步DPMSolver的一个步骤。
scale_model_input
< source >( sample: Tensor *args **kwargs ) → torch.Tensor
确保与需要根据当前时间步缩放去噪模型输入的调度器互换使用。
设置调度器的起始索引。此函数应在推理之前从管道中运行。
set_timesteps
< source >( num_inference_steps: int = None device: typing.Union[str, torch.device] = None timesteps: typing.Optional[typing.List[int]] = None )
设置用于扩散链的离散时间步(在推理之前运行)。
步骤
< source >( model_output: Tensor timestep: typing.Union[int, torch.Tensor] sample: Tensor generator = None variance_noise: typing.Optional[torch.Tensor] = None return_dict: bool = True ) → SchedulerOutput 或 tuple
参数
- model_output (
torch.Tensor
) — 从学习到的扩散模型直接输出。 - timestep (
int
) — 扩散链中当前的离散时间步。 - sample (
torch.Tensor
) — 由扩散过程创建的当前样本实例。 - generator (
torch.Generator
, 可选) — 随机数生成器。 - variance_noise (
torch.Tensor
) — 生成噪声的替代方法,通过直接提供方差本身的噪声。对于LEdits++
等方法很有用。 - return_dict (
bool
) — 是否返回 SchedulerOutput 或tuple
。
返回
调度器输出 或 tuple
如果 return_dict 为 True
,则返回 SchedulerOutput,否则返回一个元组,其中第一个元素是样本张量。
通过反转 SDE 预测前一个时间步的样本。此函数使用多步 DPMSolver 传播样本。
SchedulerOutput
class diffusers.schedulers.scheduling_utils.SchedulerOutput
< source >( prev_sample: Tensor )
调度器 step
函数输出的基类。