一致性解码器
一致性解码器可以用于解码来自去噪 UNet 的潜伏变量，该潜伏变量位于 StableDiffusionPipeline 中。该解码器在 DALL-E 3 技术报告 中引入。
原始代码库可以在 openai/consistencydecoder 中找到。
截至目前，仅支持 2 次迭代的推理。
如果没有 madebyollin 和 mrsteyk 来自 此问题 的帮助，该管道将无法贡献。
ConsistencyDecoderVAE
class diffusers.ConsistencyDecoderVAE
< source >( scaling_factor: float = 0.18215 latent_channels: int = 4 sample_size: int = 32 encoder_act_fn: str = 'silu' encoder_block_out_channels: Tuple = (128, 256, 512, 512) encoder_double_z: bool = True encoder_down_block_types: Tuple = ('DownEncoderBlock2D', 'DownEncoderBlock2D', 'DownEncoderBlock2D', 'DownEncoderBlock2D') encoder_in_channels: int = 3 encoder_layers_per_block: int = 2 encoder_norm_num_groups: int = 32 encoder_out_channels: int = 4 decoder_add_attention: bool = False decoder_block_out_channels: Tuple = (320, 640, 1024, 1024) decoder_down_block_types: Tuple = ('ResnetDownsampleBlock2D', 'ResnetDownsampleBlock2D', 'ResnetDownsampleBlock2D', 'ResnetDownsampleBlock2D') decoder_downsample_padding: int = 1 decoder_in_channels: int = 7 decoder_layers_per_block: int = 3 decoder_norm_eps: float = 1e-05 decoder_norm_num_groups: int = 32 decoder_num_train_timesteps: int = 1024 decoder_out_channels: int = 6 decoder_resnet_time_scale_shift: str = 'scale_shift' decoder_time_embedding_type: str = 'learned' decoder_up_block_types: Tuple = ('ResnetUpsampleBlock2D', 'ResnetUpsampleBlock2D', 'ResnetUpsampleBlock2D', 'ResnetUpsampleBlock2D') )
与 DALL-E 3 一起使用的 一致性解码器。
示例
>>> import torch
>>> from diffusers import StableDiffusionPipeline, ConsistencyDecoderVAE
>>> vae = ConsistencyDecoderVAE.from_pretrained("openai/consistency-decoder", torch_dtype=torch.float16)
>>> pipe = StableDiffusionPipeline.from_pretrained(
... "runwayml/stable-diffusion-v1-5", vae=vae, torch_dtype=torch.float16
... ).to("cuda")
>>> image = pipe("horse", generator=torch.manual_seed(0)).images[0]
>>> image禁用切片 VAE 解码。如果之前启用了 enable_slicing，此方法将恢复为一步计算解码。
禁用平铺 VAE 解码。如果之前启用了 enable_tiling，此方法将恢复为一步计算解码。
启用切片 VAE 解码。当此选项启用时，VAE 会将输入张量分割成切片，以便分几步计算解码。这有助于节省一些内存，并允许更大的批次大小。
启用平铺解码
< source >( use_tiling: bool = True
启用分块 VAE 解码。启用此选项后，VAE 会将输入张量拆分为多个块，并在多个步骤中计算解码和编码。这有助于节省大量内存，并允许处理更大的图像。
forward
< source >( sample: Tensor sample_posterior: bool = False return_dict: bool = True generator: Optional = None ) → DecoderOutput 或 tuple
set_attn_processor
< source >( processor: Union )
设置用于计算注意力的注意力处理器。
禁用自定义注意力处理器并设置默认注意力实现。
tiled_encode
< source >( x: Tensor return_dict: bool = True ) → ConsistencyDecoderVAEOutput 或 tuple
使用平铺编码器对图像批次进行编码。
启用此选项后，VAE 会将输入张量分割成图块，以分步计算编码。这有助于保持内存使用量与图像大小无关。平铺编码的最终结果与非平铺编码不同，因为每个图块使用不同的编码器。为了避免平铺伪影，图块会重叠并混合在一起，形成平滑的输出。您可能仍然会在输出中看到图块大小的变化，但应该不那么明显。