Diffusers 文档
DEISMultistepScheduler
并获得增强的文档体验
开始使用
DEISMultistepScheduler
扩散指数积分器采样器(DEIS)在 Qinsheng Zhang 和 Yongxin Chen 的《指数积分器快速采样扩散模型》中提出。`DEISMultistepScheduler` 是一种用于扩散常微分方程(ODE)的快速高阶求解器。
此实现修改了 log-rho 空间中的多项式拟合公式,而不是 DEIS 论文中原始的线性 `t` 空间。此修改适用于指数多步更新的封闭形式系数,而不是依赖于数值求解器。
论文摘要如下:
过去几年,扩散模型(DMs)在生成高保真样本的生成建模任务中取得了巨大成功。DM 的一个主要限制是其众所周知的缓慢采样过程,通常需要数百到数千个学习扩散过程的时间离散化步骤才能达到所需的精度。我们的目标是开发一种 DM 的快速采样方法,在更少的步骤中保持高采样质量。为此,我们系统地分析了 DM 中的采样过程,并确定了影响采样质量的关键因素,其中离散化方法最为关键。通过仔细检查学习到的扩散过程,我们提出了扩散指数积分器采样器(DEIS)。它基于为离散化常微分方程(ODE)设计的指数积分器,并利用学习到的扩散过程的半线性结构来减少离散化误差。所提出的方法可以应用于任何 DM,并且可以在少至 10 步内生成高保真样本。在我们的实验中,在单个 A6000 GPU 上生成 CIFAR10 的 5 万张图像大约需要 3 分钟。此外,通过直接使用预训练的 DM,当分数函数评估(NFE)数量有限时,我们实现了最先进的采样性能,例如,在 CIFAR10 上,10 次 NFE 达到 4.17 FID,仅 15 次 NFE 达到 3.37 FID 和 9.74 IS。代码可在此处获取:this https URL。
提示
建议将 `solver_order` 设置为 2 或 3,而 `solver_order=1` 等效于 DDIMScheduler。
支持来自 Imagen 的动态阈值,对于像素空间扩散模型,您可以设置 `thresholding=True` 以使用动态阈值。
DEISMultistepScheduler
class diffusers.DEISMultistepScheduler
< 源 >( num_train_timesteps: int = 1000 beta_start: float = 0.0001 beta_end: float = 0.02 beta_schedule: str = 'linear' trained_betas: typing.Optional[numpy.ndarray] = None solver_order: int = 2 prediction_type: str = 'epsilon' thresholding: bool = False dynamic_thresholding_ratio: float = 0.995 sample_max_value: float = 1.0 algorithm_type: str = 'deis' solver_type: str = 'logrho' lower_order_final: bool = True use_karras_sigmas: typing.Optional[bool] = False use_exponential_sigmas: typing.Optional[bool] = False use_beta_sigmas: typing.Optional[bool] = False use_flow_sigmas: typing.Optional[bool] = False flow_shift: typing.Optional[float] = 1.0 timestep_spacing: str = 'linspace' steps_offset: int = 0 )
参数
- num_train_timesteps (
int
, 默认为 1000) — 训练模型所需的扩散步数。 - beta_start (
float
, 默认为 0.0001) — 推理的起始beta
值。 - beta_end (
float
, 默认为 0.02) — 最终的beta
值。 - beta_schedule (
str
, 默认为"linear"
) — beta 调度器,一个将 beta 范围映射到用于模型步进的 beta 序列的映射。可选择linear
、scaled_linear
或squaredcos_cap_v2
。 - trained_betas (
np.ndarray
, 可选) — 直接向构造函数传递 beta 数组,以绕过beta_start
和beta_end
。 - solver_order (
int
, 默认为 2) — DEIS 阶数,可以是1
、2
或3
。建议在引导采样中使用solver_order=2
,在无条件采样中使用solver_order=3
。 - prediction_type (
str
, 默认为epsilon
) — 调度器函数的预测类型;可以是epsilon
(预测扩散过程的噪声)、sample
(直接预测噪声样本)或v_prediction
(参见 Imagen Video 论文的 2.4 节)。 - thresholding (
bool
, 默认为False
) — 是否使用“动态阈值”方法。这不适用于潜在空间扩散模型,如 Stable Diffusion。 - dynamic_thresholding_ratio (
float
, 默认为 0.995) — 动态阈值方法的比率。仅在thresholding=True
时有效。 - sample_max_value (
float
, 默认为 1.0) — 动态阈值的阈值。仅在thresholding=True
时有效。 - algorithm_type (
str
, 默认为deis
) — 求解器的算法类型。 - lower_order_final (
bool
, 默认为True
) — 是否在最后几步使用低阶求解器。仅对少于 15 步的推理有效。 - use_karras_sigmas (
bool
, 可选, 默认为False
) — 是否在采样过程中使用 Karras sigmas 作为噪声调度中的步长。如果为True
,sigmas 将根据噪声级别序列 {σi} 确定。 - use_exponential_sigmas (
bool
, 可选, 默认为False
) — 是否在采样过程中使用指数 sigmas 作为噪声调度中的步长。 - use_beta_sigmas (
bool
, 可选, 默认为False
) — 是否在采样过程中使用 beta sigmas 作为噪声调度中的步长。有关更多信息,请参阅 Beta Sampling is All You Need。 - timestep_spacing (
str
, 默认为"linspace"
) — 时间步的缩放方式。有关更多信息,请参阅 Common Diffusion Noise Schedules and Sample Steps are Flawed 的表 2。 - steps_offset (
int
, 默认为 0) — 某些模型系列所需的推理步数偏移量。
DEISMultistepScheduler
是一种用于扩散常微分方程(ODE)的快速高阶求解器。
此模型继承自 SchedulerMixin 和 ConfigMixin。查看超类文档以了解库为所有调度器实现的通用方法,例如加载和保存。
convert_model_output
< 源 >( model_output: Tensor *args sample: Tensor = None **kwargs ) → torch.Tensor
将模型输出转换为 DEIS 算法所需的相应类型。
deis_first_order_update
< 源 >( model_output: Tensor *args sample: Tensor = None **kwargs ) → torch.Tensor
一阶 DEIS 的一步(等同于 DDIM)。
multistep_deis_second_order_update
< 源 >( model_output_list: typing.List[torch.Tensor] *args sample: Tensor = None **kwargs ) → torch.Tensor
二阶多步 DEIS 的一步。
multistep_deis_third_order_update
< 源 >( model_output_list: typing.List[torch.Tensor] *args sample: Tensor = None **kwargs ) → torch.Tensor
三阶多步 DEIS 的一步。
scale_model_input
< 源 >( sample: Tensor *args **kwargs ) → torch.Tensor
确保与需要根据当前时间步缩放去噪模型输入的调度器互换使用。
设置调度器的起始索引。此函数应在推理之前从管道中运行。
set_timesteps
< 源 >( num_inference_steps: int device: typing.Union[str, torch.device] = None )
设置用于扩散链的离散时间步(在推理之前运行)。
步骤
< 源 >( model_output: Tensor timestep: typing.Union[int, torch.Tensor] sample: Tensor return_dict: bool = True ) → SchedulerOutput 或 tuple
参数
- model_output (
torch.Tensor
) — 从学习到的扩散模型直接输出。 - timestep (
int
) — 扩散链中的当前离散时间步长。 - sample (
torch.Tensor
) — 扩散过程创建的样本的当前实例。 - return_dict (
bool
) — 是否返回 SchedulerOutput 或tuple
。
返回
调度器输出 或 tuple
如果 return_dict 为 True
,则返回 SchedulerOutput,否则返回一个元组,其中第一个元素是样本张量。
通过反转 SDE 预测上一个时间步的样本。此函数使用多步 DEIS 传播样本。
SchedulerOutput
class diffusers.schedulers.scheduling_utils.SchedulerOutput
< 源 >( prev_sample: Tensor )
调度器 step
函数输出的基类。