Diffusers 文档

DPMSolverSinglestepScheduler

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

DPMSolverSinglestepScheduler

DPMSolverSinglestepScheduler 是一个单步调度器,来自 DPM-Solver: A Fast ODE Solver for Diffusion Probabilistic Model Sampling in Around 10 StepsDPM-Solver++: Fast Solver for Guided Sampling of Diffusion Probabilistic Models,作者是 Cheng Lu、Yuhao Zhou、Fan Bao、Jianfei Chen、Chongxuan Li 和 Jun Zhu。

DPMSolver(以及改进版本 DPMSolver++)是用于扩散 ODE 的快速专用高阶求解器,具有收敛阶数保证。 经验表明,仅需 20 步的 DPMSolver 采样即可生成高质量的样本,即使在 10 步内也能生成相当不错的样本。

原始实现在 LuChengTHU/dpm-solver 中可以找到。

提示

建议为引导采样将 solver_order 设置为 2,为无条件采样将 solver_order=3 设置为 3。

支持来自 Imagen 的动态阈值,对于像素空间扩散模型,您可以同时设置 algorithm_type="dpmsolver++"thresholding=True 以使用动态阈值。 此阈值方法不适用于潜在空间扩散模型,例如 Stable Diffusion。

DPMSolverSinglestepScheduler

class diffusers.DPMSolverSinglestepScheduler

< >

( num_train_timesteps: int = 1000 beta_start: float = 0.0001 beta_end: float = 0.02 beta_schedule: str = 'linear' trained_betas: typing.Optional[numpy.ndarray] = None solver_order: int = 2 prediction_type: str = 'epsilon' thresholding: bool = False dynamic_thresholding_ratio: float = 0.995 sample_max_value: float = 1.0 algorithm_type: str = 'dpmsolver++' solver_type: str = 'midpoint' lower_order_final: bool = False use_karras_sigmas: typing.Optional[bool] = False use_exponential_sigmas: typing.Optional[bool] = False use_beta_sigmas: typing.Optional[bool] = False use_flow_sigmas: typing.Optional[bool] = False flow_shift: typing.Optional[float] = 1.0 final_sigmas_type: typing.Optional[str] = 'zero' lambda_min_clipped: float = -inf variance_type: typing.Optional[str] = None )

参数

  • num_train_timesteps (int, 默认为 1000) — 训练模型的扩散步骤数量。
  • beta_start (float, 默认为 0.0001) — 推理的起始 beta 值。
  • beta_end (float, 默认为 0.02) — 最终的 beta 值。
  • beta_schedule (str, 默认为 "linear") — beta 时间表,从 beta 范围到用于步进模型的 beta 序列的映射。 从 linearscaled_linearsquaredcos_cap_v2 中选择。
  • trained_betas (np.ndarray, 可选) — 直接将 beta 数组传递给构造函数以绕过 beta_startbeta_end
  • solver_order (int, 默认为 2) — DPMSolver 的阶数,可以是 123。 建议引导采样使用 solver_order=2,无条件采样使用 solver_order=3
  • prediction_type (str, 默认为 epsilon, 可选) — 调度器函数的预测类型;可以是 epsilon(预测扩散过程的噪声)、sample(直接预测噪声样本)或 v_prediction(参见 Imagen Video 论文的第 2.4 节)。
  • thresholding (bool, 默认为 False) — 是否使用“动态阈值处理”方法。 这不适用于潜在空间扩散模型,例如 Stable Diffusion。
  • dynamic_thresholding_ratio (float, 默认为 0.995) — 动态阈值处理方法的比率。 仅当 thresholding=True 时有效。
  • sample_max_value (float, 默认为 1.0) — 动态阈值处理的阈值。 仅当 thresholding=Truealgorithm_type="dpmsolver++" 时有效。
  • algorithm_type (str, 默认为 dpmsolver++) — 求解器的算法类型;可以是 dpmsolverdpmsolver++sde-dpmsolver++dpmsolver 类型实现了 DPMSolver 论文中的算法,dpmsolver++ 类型实现了 DPMSolver++ 论文中的算法。 建议将 dpmsolver++sde-dpmsolver++solver_order=2 一起用于引导采样,例如在 Stable Diffusion 中。
  • solver_type (str, 默认为 midpoint) — 二阶求解器的求解器类型;可以是 midpointheun。 求解器类型略微影响样本质量,特别是对于少量步骤。 建议使用 midpoint 求解器。
  • lower_order_final (bool, 默认为 True) — 是否在最后步骤中使用低阶求解器。 仅对 < 15 个推理步骤有效。 这可以稳定 DPMSolver 在步骤 < 15 时的采样,特别是对于步骤 <= 10。
  • use_karras_sigmas (bool, 可选, 默认为 False) — 在采样过程中是否使用 Karras sigmas 来确定噪声时间表中的步长。 如果为 True,则根据噪声水平序列 {σi} 确定 sigma。
  • use_exponential_sigmas (bool, 可选, 默认为 False) — 在采样过程中是否使用指数 sigmas 来确定噪声时间表中的步长。
  • use_beta_sigmas (bool, 可选, 默认为 False) — 在采样过程中是否使用 beta sigmas 来确定噪声时间表中的步长。 有关更多信息,请参阅 Beta Sampling is All You Need
  • final_sigmas_type (str, 可选, 默认为 "zero") — 采样过程中噪声时间表的最终 sigma 值。 如果为 "sigma_min",则最终 sigma 与训练时间表中的最后一个 sigma 相同。 如果为 zero,则最终 sigma 设置为 0。
  • lambda_min_clipped (float, 默认为 -inf) — lambda(t) 最小值的裁剪阈值,用于数值稳定性。 这对于余弦 (squaredcos_cap_v2) 噪声时间表至关重要。
  • variance_type (str, 可选) — 对于预测方差的扩散模型,设置为 “learned” 或 “learned_range”。 如果设置,模型的输出包含预测的高斯方差。

DPMSolverSinglestepScheduler 是一种用于扩散 ODE 的快速专用高阶求解器。

此模型继承自 SchedulerMixinConfigMixin。 查看超类文档,了解库为所有调度器实现的通用方法,例如加载和保存。

convert_model_output

< >

( model_output: Tensor *args sample: Tensor = None **kwargs ) torch.Tensor

参数

  • model_output (torch.Tensor) — 来自学习的扩散模型的直接输出。
  • sample (torch.Tensor) — 由扩散过程创建的样本的当前实例。

返回值

torch.Tensor

转换后的模型输出。

将模型输出转换为 DPMSolver/DPMSolver++ 算法需要的相应类型。 DPM-Solver 旨在离散化噪声预测模型的积分,而 DPM-Solver++ 旨在离散化数据预测模型的积分。

算法和模型类型是解耦的。 您可以将 DPMSolver 或 DPMSolver++ 用于噪声预测模型和数据预测模型。

dpm_solver_first_order_update

< >

( model_output: Tensor *args sample: Tensor = None noise: typing.Optional[torch.Tensor] = None **kwargs ) torch.Tensor

参数

  • model_output (torch.Tensor) — 来自学习的扩散模型的直接输出。
  • timestep (int) — 扩散链中当前的离散时间步长。
  • prev_timestep (int) — 扩散链中之前的离散时间步长。
  • sample (torch.Tensor) — 扩散过程创建的样本的当前实例。

返回值

torch.Tensor

前一个时间步的样本张量。

一阶 DPMSolver 的一步 (等同于 DDIM)。

get_order_list

< >

( num_inference_steps: int )

参数

  • num_inference_steps (int) — 使用预训练模型生成样本时使用的扩散步骤数。

计算每个时间步的求解器阶数。

scale_model_input

< >

( sample: Tensor *args **kwargs ) torch.Tensor

参数

  • sample (torch.Tensor) — 输入样本。

返回值

torch.Tensor

一个缩放后的输入样本。

确保与需要根据当前时间步缩放去噪模型输入的调度器的互换性。

set_begin_index

< >

( begin_index: int = 0 )

参数

  • begin_index (int) — 调度器的起始索引。

设置调度器的起始索引。此函数应在推理之前从 pipeline 运行。

set_timesteps

< >

( num_inference_steps: int = None device: typing.Union[str, torch.device] = None timesteps: typing.Optional[typing.List[int]] = None )

参数

  • num_inference_steps (int) — 使用预训练模型生成样本时使用的扩散步骤数。
  • device (strtorch.device, 可选) — 时间步应移动到的设备。如果为 None,则时间步不会移动。
  • timesteps (List[int], 可选) — 用于支持时间步之间任意间距的自定义时间步。如果为 None,则使用默认的时间步间距策略,即时间步计划之间的相等间距。如果传递了 timesteps,则 num_inference_steps 必须为 None

设置用于扩散链的离散时间步(在推理之前运行)。

singlestep_dpm_solver_second_order_update

< >

( model_output_list: typing.List[torch.Tensor] *args sample: Tensor = None noise: typing.Optional[torch.Tensor] = None **kwargs ) torch.Tensor

参数

  • model_output_list (List[torch.Tensor]) — 来自学习的扩散模型在当前和后续时间步的直接输出。
  • timestep (int) — 扩散链中的当前和后续离散时间步。
  • prev_timestep (int) — 扩散链中的前一个离散时间步。
  • sample (torch.Tensor) — 扩散过程创建的样本的当前实例。

返回值

torch.Tensor

前一个时间步的样本张量。

二阶单步 DPMSolver 的一步,它从 timestep_list[-2] 时间计算 prev_timestep 时间的解。

singlestep_dpm_solver_third_order_update

< >

( model_output_list: typing.List[torch.Tensor] *args sample: Tensor = None noise: typing.Optional[torch.Tensor] = None **kwargs ) torch.Tensor

参数

  • model_output_list (List[torch.Tensor]) — 来自学习的扩散模型在当前和后续时间步的直接输出。
  • timestep (int) — 扩散链中的当前和后续离散时间步。
  • prev_timestep (int) — 扩散链中的前一个离散时间步。
  • sample (torch.Tensor) — 扩散过程创建的样本的当前实例。

返回值

torch.Tensor

前一个时间步的样本张量。

三阶单步 DPMSolver 的一步,它从 timestep_list[-3] 时间计算 prev_timestep 时间的解。

singlestep_dpm_solver_update

< >

( model_output_list: typing.List[torch.Tensor] *args sample: Tensor = None order: int = None noise: typing.Optional[torch.Tensor] = None **kwargs ) torch.Tensor

参数

  • model_output_list (List[torch.Tensor]) — 来自学习的扩散模型在当前和后续时间步的直接输出。
  • timestep (int) — diffusion 链中的当前和后续离散时间步。
  • prev_timestep (int) — diffusion 链中的上一个离散时间步。
  • sample (torch.Tensor) — 由扩散过程创建的当前样本实例。
  • order (int) — 此步骤的求解器阶数。

返回值

torch.Tensor

前一个时间步的样本张量。

单步 DPMSolver 的一步。

step

< >

( model_output: Tensor timestep: typing.Union[int, torch.Tensor] sample: Tensor generator = None return_dict: bool = True ) SchedulerOutputtuple

参数

  • model_output (torch.Tensor) — 来自学习到的扩散模型的直接输出。
  • timestep (int) — diffusion 链中的当前离散时间步。
  • sample (torch.Tensor) — 由扩散过程创建的当前样本实例。
  • return_dict (bool) — 是否返回 SchedulerOutputtuple

返回值

SchedulerOutputtuple

如果 return_dict 为 True,则返回 SchedulerOutput,否则返回一个元组,其中第一个元素是样本张量。

通过反转 SDE,从上一个时间步预测样本。此函数使用单步 DPMSolver 传播样本。

SchedulerOutput

class diffusers.schedulers.scheduling_utils.SchedulerOutput

< >

( prev_sample: Tensor )

参数

  • prev_sample (torch.Tensor,形状为 (batch_size, num_channels, height, width),用于图像)— 上一个时间步的计算样本 (x_{t-1})prev_sample 应在去噪循环中用作下一个模型输入。

调度器的 step 函数输出的基类。

< > 在 GitHub 上更新