Diffusers 文档

DEISMultistepScheduler

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

DEISMultistepScheduler

扩散指数积分器采样器(DEIS)在 Qinsheng Zhang 和 Yongxin Chen 的《指数积分器快速采样扩散模型》中提出。`DEISMultistepScheduler` 是一种用于扩散常微分方程(ODE)的快速高阶求解器。

此实现修改了 log-rho 空间中的多项式拟合公式,而不是 DEIS 论文中原始的线性 `t` 空间。此修改适用于指数多步更新的封闭形式系数,而不是依赖于数值求解器。

论文摘要如下:

过去几年,扩散模型(DMs)在生成高保真样本的生成建模任务中取得了巨大成功。DM 的一个主要限制是其众所周知的缓慢采样过程,通常需要数百到数千个学习扩散过程的时间离散化步骤才能达到所需的精度。我们的目标是开发一种 DM 的快速采样方法,在更少的步骤中保持高采样质量。为此,我们系统地分析了 DM 中的采样过程,并确定了影响采样质量的关键因素,其中离散化方法最为关键。通过仔细检查学习到的扩散过程,我们提出了扩散指数积分器采样器(DEIS)。它基于为离散化常微分方程(ODE)设计的指数积分器,并利用学习到的扩散过程的半线性结构来减少离散化误差。所提出的方法可以应用于任何 DM,并且可以在少至 10 步内生成高保真样本。在我们的实验中,在单个 A6000 GPU 上生成 CIFAR10 的 5 万张图像大约需要 3 分钟。此外,通过直接使用预训练的 DM,当分数函数评估(NFE)数量有限时,我们实现了最先进的采样性能,例如,在 CIFAR10 上,10 次 NFE 达到 4.17 FID,仅 15 次 NFE 达到 3.37 FID 和 9.74 IS。代码可在此处获取:this https URL

提示

建议将 `solver_order` 设置为 2 或 3,而 `solver_order=1` 等效于 DDIMScheduler

支持来自 Imagen 的动态阈值,对于像素空间扩散模型,您可以设置 `thresholding=True` 以使用动态阈值。

DEISMultistepScheduler

class diffusers.DEISMultistepScheduler

< >

( num_train_timesteps: int = 1000 beta_start: float = 0.0001 beta_end: float = 0.02 beta_schedule: str = 'linear' trained_betas: typing.Optional[numpy.ndarray] = None solver_order: int = 2 prediction_type: str = 'epsilon' thresholding: bool = False dynamic_thresholding_ratio: float = 0.995 sample_max_value: float = 1.0 algorithm_type: str = 'deis' solver_type: str = 'logrho' lower_order_final: bool = True use_karras_sigmas: typing.Optional[bool] = False use_exponential_sigmas: typing.Optional[bool] = False use_beta_sigmas: typing.Optional[bool] = False use_flow_sigmas: typing.Optional[bool] = False flow_shift: typing.Optional[float] = 1.0 timestep_spacing: str = 'linspace' steps_offset: int = 0 )

参数

  • num_train_timesteps (int, 默认为 1000) — 训练模型所需的扩散步数。
  • beta_start (float, 默认为 0.0001) — 推理的起始 beta 值。
  • beta_end (float, 默认为 0.02) — 最终的 beta 值。
  • beta_schedule (str, 默认为 "linear") — beta 调度器,一个将 beta 范围映射到用于模型步进的 beta 序列的映射。可选择 linearscaled_linearsquaredcos_cap_v2
  • trained_betas (np.ndarray, 可选) — 直接向构造函数传递 beta 数组,以绕过 beta_startbeta_end
  • solver_order (int, 默认为 2) — DEIS 阶数,可以是 123。建议在引导采样中使用 solver_order=2,在无条件采样中使用 solver_order=3
  • prediction_type (str, 默认为 epsilon) — 调度器函数的预测类型;可以是 epsilon(预测扩散过程的噪声)、sample(直接预测噪声样本)或 v_prediction(参见 Imagen Video 论文的 2.4 节)。
  • thresholding (bool, 默认为 False) — 是否使用“动态阈值”方法。这不适用于潜在空间扩散模型,如 Stable Diffusion。
  • dynamic_thresholding_ratio (float, 默认为 0.995) — 动态阈值方法的比率。仅在 thresholding=True 时有效。
  • sample_max_value (float, 默认为 1.0) — 动态阈值的阈值。仅在 thresholding=True 时有效。
  • algorithm_type (str, 默认为 deis) — 求解器的算法类型。
  • lower_order_final (bool, 默认为 True) — 是否在最后几步使用低阶求解器。仅对少于 15 步的推理有效。
  • use_karras_sigmas (bool, 可选, 默认为 False) — 是否在采样过程中使用 Karras sigmas 作为噪声调度中的步长。如果为 True,sigmas 将根据噪声级别序列 {σi} 确定。
  • use_exponential_sigmas (bool, 可选, 默认为 False) — 是否在采样过程中使用指数 sigmas 作为噪声调度中的步长。
  • use_beta_sigmas (bool, 可选, 默认为 False) — 是否在采样过程中使用 beta sigmas 作为噪声调度中的步长。有关更多信息,请参阅 Beta Sampling is All You Need
  • timestep_spacing (str, 默认为 "linspace") — 时间步的缩放方式。有关更多信息,请参阅 Common Diffusion Noise Schedules and Sample Steps are Flawed 的表 2。
  • steps_offset (int, 默认为 0) — 某些模型系列所需的推理步数偏移量。

DEISMultistepScheduler 是一种用于扩散常微分方程(ODE)的快速高阶求解器。

此模型继承自 SchedulerMixinConfigMixin。查看超类文档以了解库为所有调度器实现的通用方法,例如加载和保存。

convert_model_output

< >

( model_output: Tensor *args sample: Tensor = None **kwargs ) torch.Tensor

参数

  • model_output (torch.Tensor) — 从学习到的扩散模型直接输出。
  • timestep (int) — 扩散链中当前的离散时间步。
  • sample (torch.Tensor) — 扩散过程创建的样本的当前实例。

返回

torch.Tensor

转换后的模型输出。

将模型输出转换为 DEIS 算法所需的相应类型。

deis_first_order_update

< >

( model_output: Tensor *args sample: Tensor = None **kwargs ) torch.Tensor

参数

  • model_output (torch.Tensor) — 从学习到的扩散模型直接输出。
  • timestep (int) — 扩散链中当前的离散时间步。
  • prev_timestep (int) — 扩散链中上一个离散时间步。
  • sample (torch.Tensor) — 扩散过程创建的样本的当前实例。

返回

torch.Tensor

上一个时间步的样本张量。

一阶 DEIS 的一步(等同于 DDIM)。

multistep_deis_second_order_update

< >

( model_output_list: typing.List[torch.Tensor] *args sample: Tensor = None **kwargs ) torch.Tensor

参数

  • model_output_list (List[torch.Tensor]) — 从学习到的扩散模型在当前和后续时间步的直接输出。
  • sample (torch.Tensor) — 扩散过程创建的样本的当前实例。

返回

torch.Tensor

上一个时间步的样本张量。

二阶多步 DEIS 的一步。

multistep_deis_third_order_update

< >

( model_output_list: typing.List[torch.Tensor] *args sample: Tensor = None **kwargs ) torch.Tensor

参数

  • model_output_list (List[torch.Tensor]) — 从学习到的扩散模型在当前和后续时间步的直接输出。
  • sample (torch.Tensor) — 扩散过程创建的样本的当前实例。

返回

torch.Tensor

上一个时间步的样本张量。

三阶多步 DEIS 的一步。

scale_model_input

< >

( sample: Tensor *args **kwargs ) torch.Tensor

参数

  • sample (torch.Tensor) — 输入样本。

返回

torch.Tensor

一个缩放后的输入样本。

确保与需要根据当前时间步缩放去噪模型输入的调度器互换使用。

set_begin_index

< >

( begin_index: int = 0 )

参数

  • begin_index (int) — 调度器的起始索引。

设置调度器的起始索引。此函数应在推理之前从管道中运行。

set_timesteps

< >

( num_inference_steps: int device: typing.Union[str, torch.device] = None )

参数

  • num_inference_steps (int) — 使用预训练模型生成样本时使用的扩散步数。
  • device (strtorch.device, 可选) — 步长应移动到的设备。如果为 None,则步长不移动。

设置用于扩散链的离散时间步(在推理之前运行)。

步骤

< >

( model_output: Tensor timestep: typing.Union[int, torch.Tensor] sample: Tensor return_dict: bool = True ) SchedulerOutputtuple

参数

  • model_output (torch.Tensor) — 从学习到的扩散模型直接输出。
  • timestep (int) — 扩散链中的当前离散时间步长。
  • sample (torch.Tensor) — 扩散过程创建的样本的当前实例。
  • return_dict (bool) — 是否返回 SchedulerOutputtuple

返回

调度器输出tuple

如果 return_dict 为 True,则返回 SchedulerOutput,否则返回一个元组,其中第一个元素是样本张量。

通过反转 SDE 预测上一个时间步的样本。此函数使用多步 DEIS 传播样本。

SchedulerOutput

class diffusers.schedulers.scheduling_utils.SchedulerOutput

< >

( prev_sample: Tensor )

参数

  • prev_sample (torch.Tensor,图像的形状为 (batch_size, num_channels, height, width)) — 计算出的上一个时间步的样本 (x_{t-1})prev_sample 应作为去噪循环中的下一个模型输入。

调度器 step 函数输出的基类。

< > 在 GitHub 上更新