DPMSolverSinglestepScheduler
DPMSolverSinglestepScheduler
是来自 DPM-Solver:一种用于扩散概率模型采样的快速常微分方程求解器,大约需要 10 步 和 DPM-Solver++:扩散概率模型引导采样的快速求解器 的单步调度器,由 Cheng Lu、Yuhao Zhou、Fan Bao、Jianfei Chen、Chongxuan Li 和 Jun Zhu 提出。
DPMSolver(以及改进版本 DPMSolver++)是一种用于扩散 ODE 的快速专用高阶求解器,具有收敛阶保证。根据经验,仅使用 20 步的 DPMSolver 采样即可生成高质量的样本,即使在 10 步内也能生成相当不错的样本。
原始实现可以在 LuChengTHU/dpm-solver 中找到。
提示
建议将 solver_order
设置为 2 用于引导采样,并将 solver_order=3
用于无条件采样。
支持来自 Imagen 的动态阈值,对于像素空间扩散模型,可以同时设置 algorithm_type="dpmsolver++"
和 thresholding=True
来使用动态阈值。这种阈值方法不适用于潜空间扩散模型,例如 Stable Diffusion。
DPMSolverSinglestepScheduler
class diffusers.DPMSolverSinglestepScheduler
< 源代码 >( num_train_timesteps: int = 1000 beta_start: float = 0.0001 beta_end: float = 0.02 beta_schedule: str = 'linear' trained_betas: Optional = None solver_order: int = 2 prediction_type: str = 'epsilon' thresholding: bool = False dynamic_thresholding_ratio: float = 0.995 sample_max_value: float = 1.0 algorithm_type: str = 'dpmsolver++' solver_type: str = 'midpoint' lower_order_final: bool = False use_karras_sigmas: Optional = False final_sigmas_type: Optional = 'zero' lambda_min_clipped: float = -inf variance_type: Optional = None )
参数
- num_train_timesteps (
int
,默认为 1000) — 模型训练的扩散步数。 - beta_start (
float
,默认为 0.0001) — 推理的起始beta
值。 - beta_end (
float
,默认为 0.02) — 最终的beta
值。 - beta_schedule (
str
,默认为"linear"
) — beta 调度,将 beta 范围映射到一系列用于逐步调整模型的 beta 值。可以选择linear
、scaled_linear
或squaredcos_cap_v2
。 - trained_betas (
np.ndarray
,可选) — 将 beta 数组直接传递给构造函数以绕过beta_start
和beta_end
。 - solver_order (
int
,默认为 2) — DPMSolver 的阶数,可以是1
或2
或3
。建议对于引导采样使用solver_order=2
,对于无条件采样使用solver_order=3
。 - prediction_type (
str
,默认为epsilon
,可选) — 调度器函数的预测类型;可以是epsilon
(预测扩散过程的噪声)、sample
(直接预测噪声样本)或v_prediction
(参见 Imagen Video 论文的第 2.4 节)。 - thresholding (
bool
,默认为False
) — 是否使用“动态阈值”方法。这对于潜空间扩散模型(例如 Stable Diffusion)不适用。 - dynamic_thresholding_ratio (
float
,默认为 0.995) — 动态阈值方法的比率。仅当thresholding=True
时有效。 - sample_max_value (
float
,默认为 1.0) — 动态阈值的阈值。仅当thresholding=True
且algorithm_type="dpmsolver++"
时有效。 - algorithm_type (
str
,默认为dpmsolver++
) — 求解器的算法类型;可以是dpmsolver
或dpmsolver++
或sde-dpmsolver++
。dpmsolver
类型实现了 DPMSolver 论文中的算法,dpmsolver++
类型实现了 DPMSolver++ 论文中的算法。建议使用dpmsolver++
或sde-dpmsolver++
以及solver_order=2
进行类似于 Stable Diffusion 中的引导采样。 - solver_type (
str
,默认为midpoint
) — 二阶求解器的求解器类型;可以是midpoint
或heun
。求解器类型会稍微影响样本质量,尤其是在步数较少的情况下。建议使用midpoint
求解器。 - lower_order_final (
bool
,默认为True
) — 是否在最后几步使用低阶求解器。仅对 < 15 推理步有效。这可以稳定 DPMSolver 在 < 15 步的采样,尤其是在 <= 10 步时。 - use_karras_sigmas (
bool
,可选,默认为False
) — 是否在采样过程中使用 Karras sigma 作为噪声计划中步长的确定依据。如果True
,则根据一系列噪声级别 {σi} 确定 sigma。 - final_sigmas_type (
str
,可选,默认为"zero"
) — 采样过程中噪声计划的最终sigma
值。如果为"sigma_min"
,则最终 sigma 与训练计划中的最后一个 sigma 相同。如果为zero
,则最终 sigma 设置为 0。 - lambda_min_clipped (
float
,默认为-inf
) — 用于数值稳定性的lambda(t)
最小值的裁剪阈值。这对于余弦 (squaredcos_cap_v2
) 噪声计划至关重要。 - variance_type (
str
,可选) — 对于预测方差的扩散模型,设置为“learned”或“learned_range”。如果设置,则模型的输出包含预测的高斯方差。
DPMSolverSinglestepScheduler
是一种用于扩散 ODE 的快速专用高阶求解器。
此模型继承自 SchedulerMixin 和 ConfigMixin。请查看超类文档以了解库为所有调度程序实现的通用方法,例如加载和保存。
convert_model_output
< 源代码 >( model_output: 张量 *args sample: 张量 = None **kwargs ) → torch.Tensor
将模型输出转换为 DPMSolver/DPMSolver++ 算法需要的对应类型。DPM-Solver 旨在离散噪声预测模型的积分,而 DPM-Solver++ 旨在离散数据预测模型的积分。
算法和模型类型是解耦的。您可以对噪声预测和数据预测模型使用 DPMSolver 或 DPMSolver++。
dpm_solver_first_order_update
< 源代码 >( model_output: 张量 *args sample: 张量 = None noise: 可选 = None **kwargs ) → torch.Tensor
一阶 DPMSolver 的一步(等效于 DDIM)。
get_order_list
< 源代码 >( num_inference_steps: int )
计算每个时间步长的求解器顺序。
scale_model_input
< 源代码 >( sample: 张量 *args **kwargs ) → torch.Tensor
确保与需要根据当前时间步长缩放去噪模型输入的调度器互换。
设置调度器的起始索引。此函数应在推理之前从管道中运行。
set_timesteps
< 源代码 >( num_inference_steps: int = None device: Union = None timesteps: 可选 = None )
设置用于扩散链的离散时间步长(在推理之前运行)。
singlestep_dpm_solver_second_order_update
< 源代码 >( model_output_list: List *args sample: Tensor = None noise: Optional = None **kwargs ) → torch.Tensor
计算时间为 prev_timestep
的二阶单步 DPMSolver 的一步,该时间步从时间 timestep_list[-2]
计算得出。
singlestep_dpm_solver_third_order_update
< 源代码 >( model_output_list: List *args sample: Tensor = None **kwargs ) → torch.Tensor
参数
前一时间步的样本张量。
第三阶单步 DPMSolver 的一个步骤,它根据时间 `timestep_list[-3]` 计算时间 `prev_timestep` 处的解。
singlestep_dpm_solver_update
< 源代码 >( model_output_list: 列表 *args sample: 张量 = None order: 整数 = None noise: 可选 = None **kwargs ) → torch.Tensor
单步 DPMSolver 的一个步骤。
step
< 源代码 >( model_output: 张量 timestep: 联合 sample: 张量 generator = None return_dict: 布尔值 = True ) → SchedulerOutput 或元组
参数
- model_output (
torch.Tensor
) — 学习扩散模型的直接输出。 - timestep (
int
) — 扩散链中的当前离散时间步长。 - sample (
torch.Tensor
) — 由扩散过程创建的样本的当前实例。 - return_dict (
bool
) — 是否返回 SchedulerOutput 或tuple
。
返回值
SchedulerOutput 或 tuple
如果 return_dict 为 True
,则返回 SchedulerOutput,否则返回一个元组,其中第一个元素是样本张量。
通过反转 SDE 预测前一个时间步的样本。此函数使用 singlestep DPMSolver 传播样本。
SchedulerOutput
class diffusers.schedulers.scheduling_utils.SchedulerOutput
< 源代码 >( prev_sample: 张量 )
调度程序 step
函数输出的基类。