潜在一致模型多步调度器
概述
多步和单步调度器(算法 3)与论文潜在一致模型:使用少量步骤推理合成高分辨率图像中介绍的潜在一致模型一起引入,作者为 Simian Luo、Yiqin Tan、Longbo Huang、Jian Li 和 Hang Zhao。此调度器应该能够从LatentConsistencyModelPipeline中以 1-8 步生成良好的样本。
LCMScheduler
类 diffusers.LCMScheduler
< 源代码 >( num_train_timesteps: int = 1000 beta_start: float = 0.00085 beta_end: float = 0.012 beta_schedule: str = 'scaled_linear' trained_betas: Union = None original_inference_steps: int = 50 clip_sample: bool = False clip_sample_range: float = 1.0 set_alpha_to_one: bool = True steps_offset: int = 0 prediction_type: str = 'epsilon' thresholding: bool = False dynamic_thresholding_ratio: float = 0.995 sample_max_value: float = 1.0 timestep_spacing: str = 'leading' timestep_scaling: float = 10.0 rescale_betas_zero_snr: bool = False )
参数
- num_train_timesteps (
int
,默认为 1000) — 模型训练的扩散步数。 - beta_start (
float
,默认为 0.0001) — 推理的起始beta
值。 - beta_end (
float
,默认为 0.02) — 最终的beta
值。 - beta_schedule (
str
,默认为"linear"
) — beta 调度,将 beta 范围映射到一系列用于逐步调整模型的 beta 值。可以选择linear
、scaled_linear
或squaredcos_cap_v2
。 - trained_betas (
np.ndarray
,可选) — 将一系列 beta 值直接传递给构造函数,以绕过beta_start
和beta_end
。 - original_inference_steps (
int
,可选,默认为 50) — 用于生成线性间隔时间步长计划的默认推理步数,我们将最终从该计划中获取num_inference_steps
个均匀间隔的时间步长来形成最终的时间步长计划。 - clip_sample (
bool
,默认为True
) — 剪辑预测样本以确保数值稳定性。 - clip_sample_range (
float
,默认为 1.0) — 样本剪辑的最大幅度。仅当clip_sample=True
时有效。 - set_alpha_to_one (
bool
,默认为True
) — 每个扩散步骤都使用该步骤和前一步的 alpha 乘积值。对于最后一步,没有前一个 alpha。当此选项为True
时,前一个 alpha 乘积固定为1
,否则它使用第 0 步的 alpha 值。 - steps_offset (
int
,默认为 0) — 添加到推理步骤的偏移量,某些模型系列需要此偏移量。 - prediction_type (
str
,默认为epsilon
,可选) — 调度器函数的预测类型;可以是epsilon
(预测扩散过程的噪声)、sample
(直接预测噪声样本)或v_prediction
(参见 Imagen Video 论文的第 2.4 节)。 - thresholding (
bool
,默认为False
) — 是否使用“动态阈值”方法。这对于潜空间扩散模型(如 Stable Diffusion)不适用。 - dynamic_thresholding_ratio (
float
,默认为 0.995) — 动态阈值方法的比率。仅当thresholding=True
时有效。 - sample_max_value (
float
,默认为 1.0) — 动态阈值的阈值。仅当thresholding=True
时有效。 - timestep_spacing (
str
,默认为"leading"
) — 时间步长应该如何缩放。有关更多信息,请参阅 Common Diffusion Noise Schedules and Sample Steps are Flawed 的表 2。 - timestep_scaling (
float
,默认为 10.0) — 计算一致性模型边界条件c_skip
和c_out
时,时间步长将乘以的因子。增加此值将减少近似误差(尽管在默认值 10.0 时的近似误差已经非常小了)。 - rescale_betas_zero_snr (
bool
,默认为False
) — 是否将 beta 重缩放为零终端信噪比。这使模型能够生成非常明亮和黑暗的样本,而不是将其限制在中等亮度的样本。与--offset_noise
松散相关。
LCMScheduler
通过非马尔可夫引导扩展了降噪扩散概率模型 (DDPM) 中引入的降噪过程。
此模型继承自 SchedulerMixin 和 ConfigMixin。 ~ConfigMixin 负责存储在调度程序的 __init__
函数中传递的所有配置属性,例如 num_train_timesteps
。可以通过 scheduler.config.num_train_timesteps
访问它们。 SchedulerMixin 通过 SchedulerMixin.save_pretrained() 和 from_pretrained() 函数提供一般的加载和保存功能。
scale_model_input
< 源代码 >( sample: 张量 timestep: 可选 = None ) → torch.Tensor
确保与需要根据当前时间步缩放去噪模型输入的调度器互换。
设置调度器的起始索引。此函数应在推理之前由管道运行。
set_timesteps
< 源代码 >( num_inference_steps: Optional = None device: Union = None original_inference_steps: Optional = None timesteps: Optional = None strength: int = 1.0 )
参数
- num_inference_steps (
int
, 可选) — 使用预训练模型生成样本时使用的扩散步数。如果使用,则timesteps
必须为None
。 - device (
str
或torch.device
, 可选) — 时间步应移动到的设备。如果为None
,则时间步不会移动。 - original_inference_steps (
int
, 可选) — 原始推理步数,将用于生成线性间隔的时间步调度(与标准diffusers
实现不同)。然后,我们将从此调度中获取num_inference_steps
个时间步,在索引方面均匀间隔,并将其用作最终时间步调度。如果未设置,则默认为original_inference_steps
属性。 - timesteps (
List[int]
, 可选) — 用于支持时间步之间任意间距的自定义时间步。如果为None
,则使用在训练/蒸馏时间步调度上时间步之间等间距的默认时间步间距策略。如果传递了timesteps
,则num_inference_steps
必须为None
。
设置用于扩散链的离散时间步(在推理之前运行)。