Diffusers 文档

扰动注意力引导

Hugging Face's logo
加入 Hugging Face 社区

并获取增强的文档体验

以开始

扰动注意力引导

扰动注意力引导 (PAG) 是一种新的扩散采样引导,在不要求进一步训练或集成外部模块的情况下,提高了在无条件和条件设置下样本的质量。

PAG 由 Donghoon Ahn、Hyoungwon Cho、Jaewon Min、Wooseok Jang、Jungwoo Kim、SeonHwa Kim、Hyun Hee Park、Kyong Hwan Jin 和 Seungryong Kim 在《Self-Rectifying Diffusion Sampling with Perturbed-Attention Guidance》中介绍。

论文的摘要如下

最近的研究表明,扩散模型能够生成高质量的样本,但是其质量在很大程度上依赖于采样指导技术,例如分类器指导(CG)和无分类器指导(CFG)。这些技术在无条件生成或在各种下游任务(如图像修复)中往往不适用。在本文中,我们提出了一种新颖的采样指导,称为扰动注意力指导(PAG),它在不需要额外训练或外部模块集成的情况下,提高了无条件和条件设置下的扩散样本质量。PAG旨在在整个去噪过程中逐步增强样本的结构。它涉及通过将扩散U-Net中的选定的自注意力图替换为恒等矩阵来生成具有降级结构的中间样本,通过考虑自注意力机制捕捉结构信息的能力,并引导去噪过程远离这些降级样本。在ADM和Stable Diffusion中,PAG出人意料地提高了条件甚至无条件场景下的样本质量。此外,PAG显著提高了各种下游任务中的基线性能,在这些任务中,现有的指导(如CG或CFG)无法充分利用,包括带有空提示的ControlNet和图像修复,如修复和去模糊。

可以通过指定在实例化PAG管道时作为参数的pag_applied_layers来使用PAG。它可以是单个字符串或字符串的列表。每个字符串可以是唯一的层标识符或正则表达式,以标识一个或多个层。

  • 作为普通字符串的完整标识符:down_blocks.2.attentions.0.transformer_blocks.0.attn1.processor
  • 作为正则表达式的完整标识符:down_blocks.2.(attentions|motion_modules).0.transformer_blocks.0.attn1.processor
  • 作为正则表达式的部分标识符:down_blocks.2attn1
  • 标识符列表(可以是字符串和正则表达式的组合):["blocks.1", "blocks.(14|20)", r"down_blocks\.(2,3)"]

由于支持正则表达式作为匹配层标识符的方式,因此正确使用正则表达式至关重要。推荐使用PAG的方式是将层指定为blocks.{layer_index}blocks.({layer_index_1|layer_index_2|...})。以任何其他方式使用,尽管可行,可能会绕过我们的基本验证检查,并导致您获得意外结果。

AnimateDiffPAGPipeline

class diffusers.AnimateDiffPAGPipeline

< >

( vae: AutoencoderKL text_encoder: CLIPTextModel tokenizer: CLIPTokenizer unet: Union motion_adapter: MotionAdapter scheduler: KarrasDiffusionSchedulers feature_extractor: CLIPImageProcessor = None image_encoder: CLIPVisionModelWithProjection = None pag_applied_layers: Union = 'mid_block.*attn1' )

参数

使用 AnimateDiffPerturbed Attention Guidance 生成文本到视频的流水线。

此模型继承自 DiffusionPipeline。查看超类文档以获取为所有流水线实现的一般方法(下载、保存、在特定设备上运行等)。

流水线还继承了以下加载方法

__call__

< >

( prompt: 联合体 = None num_frames: 可选 = 16 height: 可选 = None width: 可选 = None num_inference_steps: int = 50 guidance_scale: float = 7.5 negative_prompt: 联合体 = None num_videos_per_prompt: 可选 = 1 eta: float = 0.0 generator: 联合体 = None latents: 可选 = None prompt_embeds: 可选 = None negative_prompt_embeds: 可选 = None ip_adapter_image: 联合体 = None ip_adapter_image_embeds: 可选 = None output_type: 可选 = 'pil' return_dict: bool = True cross_attention_kwargs: 可选 = None clip_skip: 可选 = None callback_on_step_end: 可选 = None callback_on_step_end_tensor_inputs: List = ['latents'] decode_chunk_size: int = 16 pag_scale: float = 3.0 pag_adaptive_scale: float = 0.0 ) AnimateDiffPipelineOutputtuple

参数

  • prompt (strList[str]可选) — 引导图像生成的提示或提示列表。如果没有定义,需要传递 prompt_embeds
  • height (int可选,默认为 self.unet.config.sample_size * self.vae_scale_factor) — 生成的视频像素高度。
  • width (int可选,默认为 self.unet.config.sample_size * self.vae_scale_factor) — 生成的视频像素宽度。
  • num_frames (int, 可选,默认为16) — 生成的视频帧数。默认为16帧,在每秒8帧的情况下相当于2秒的视频。
  • num_inference_steps (int, 可选,默认为50) — 噪声消除步骤的数量。更多的噪声消除步骤通常会导致质量更高的视频,但推理速度较慢。
  • guidance_scale (float, 可选,默认为7.5) — 较高的指导尺度值会鼓励模型生成与文本prompt紧密相关的图像,以牺牲较低的图像质量为代价。当guidance_scale > 1时启用指导尺度。
  • negative_prompt (strList[str], 可选) — 指导不包含在图像生成中的提示文本或提示文本列表。如果没有定义,需要传递 negative_prompt_embeds。在未使用引导(guidance_scale < 1)时忽略。
  • eta (float, 可选,默认为 0.0) — 对应于DDIM论文中的参数eta(η)。仅适用于DDIMScheduler,在其他调度器中忽略。
  • generator (torch.GeneratorList[torch.Generator], 可选) — 使用torch.Generator进行生成以使其确定性强。
  • latents (torch.Tensor, optional) — 由高斯分布采样的预生成的噪声 latent,用作视频生成的输入。可用于调整具有不同提示的相同生成。如果未提供,将使用提供的随机 generator 自动生成 latent。Latents 的形状应为 (batch_size, num_channel, num_frames, height, width)
  • prompt_embeds (torch.Tensor, optional) — 预生成的文本嵌入。可用于轻松调整文本输入(提示权重)。如果未提供,将根据输入的 prompt 生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, optional) — 预生成的负文本嵌入。可用于轻松调整文本输入(提示权重)。如果未提供,将根据输入的 negative_prompt 生成负文本嵌入。
  • ip_adapter_image_embeds (List[torch.Tensor], 可选) — 为 IP-Adapter 预生成的图像嵌入。它应与 IP-Adapter 的数量相同长度的列表。每个元素应是一个形状为 (batch_size, num_images, emb_dim) 的张量。如果将 do_classifier_free_guidance 设置为 True,则应包含负图像嵌入。如果不提供,则从 ip_adapter_image 输入参数中计算嵌入。
  • output_type (str, 可选,默认为 "pil") — 生成的视频的输出格式。选择 torch.TensorPIL.Imagenp.array
  • return_dict (bool, 可选,默认为 True) — 是否返回一个 TextToVideoSDPipelineOutput 而不是普通元组。
  • cross_attention_kwargs (dict, 可选) — 一个kwargs字典,如果指定,将被传递给在self.processor中定义的AttentionProcessor
  • clip_skip (int, 可选) — 跳过的CLIP层的数量,在计算提示嵌入时。值为1表示将使用预最终层的输出计算提示嵌入。
  • callback_on_step_end (Callable, 可选) — 在推理过程中每步去噪结束后调用的函数。函数以以下参数调用:callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict)callback_kwargs将包含由callback_on_step_end_tensor_inputs指定的所有张量的列表。
  • callback_on_step_end_tensor_inputs (可选)—— 用于 callback_on_step_end 函数的张量输入列表。列表中指定的张量将被传递为 callback_kwargs 参数。您只能包括您.pipeline类 ._callback_tensor_inputs 属性中列出的变量。
  • pag_scale (float可选,默认为 3.0)—— 扰动注意力引导的缩放因子。如果设置为 0.0,则不会使用扰动注意力引导。
  • pag_adaptive_scale (float可选,默认为 0.0)—— 扰动注意力引导的自适应缩放因子。如果设置为 0.0,则使用 pag_scale

返回值

AnimateDiffPipelineOutputtuple

如果 return_dictTrue,则返回 AnimateDiffPipelineOutput,否则返回一个包含生成的帧列表的 tuple

称为 pipeline 的生成调用函数。

示例

>>> import torch
>>> from diffusers import AnimateDiffPAGPipeline, MotionAdapter, DDIMScheduler
>>> from diffusers.utils import export_to_gif

>>> model_id = "SG161222/Realistic_Vision_V5.1_noVAE"
>>> motion_adapter_id = "guoyww/animatediff-motion-adapter-v1-5-2"
>>> motion_adapter = MotionAdapter.from_pretrained(motion_adapter_id)
>>> scheduler = DDIMScheduler.from_pretrained(
...     model_id, subfolder="scheduler", beta_schedule="linear", steps_offset=1, clip_sample=False
... )
>>> pipe = AnimateDiffPAGPipeline.from_pretrained(
...     model_id,
...     motion_adapter=motion_adapter,
...     scheduler=scheduler,
...     pag_applied_layers=["mid"],
...     torch_dtype=torch.float16,
... ).to("cuda")

>>> video = pipe(
...     prompt="car, futuristic cityscape with neon lights, street, no human",
...     negative_prompt="low quality, bad quality",
...     num_inference_steps=25,
...     guidance_scale=6.0,
...     pag_scale=3.0,
...     generator=torch.Generator().manual_seed(42),
... ).frames[0]

>>> export_to_gif(video, "animatediff_pag.gif")

encode_prompt

< >

( 提示词 设备 每个提示词的图片数量 do_classifier_free_guidance 负提示词 = None 提示词嵌入: Optional = None 负提示词嵌入: Optional = None lora_scale: Optional = None clip_skip: Optional = None )

参数

  • 提示词 (strList[str], 可选) — 要编码的提示词 设备 — (torch.device):torch 设备
  • num_images_per_prompt (int) — 每个提示应生成的图像数量
  • do_classifier_free_guidance (bool) — 是否使用分类器自由引导
  • negative_prompt (strList[str]可选) — 不要引导图像生成的提示或提示列表。如果没有定义,则必须传递 negative_prompt_embeds。如果未使用引导(即,如果 guidance_scale 小于 1),则忽略。
  • prompt_embeds (torch.Tensor, 可选) — 预生成的文本嵌入。可用于轻松调整文本输入,例如调整提示权重。如果未提供,文本嵌入将从 prompt 输入参数生成。
  • negative_prompt_embeds (torch.Tensor, 可选) — 预生成的负文本嵌入。可用于轻松调整文本输入,例如调整提示权重。如果未提供,将从 negative_prompt 输入参数生成 negative_prompt_embeds。
  • lora_scale (float, 可选) — 如果已加载 LoRA 层,则将应用于所有 LoRA 嵌入器层的 LoRA 缩放值。
  • clip_skip (int, 可选) — 在计算提示嵌入时从CLIP跳过的层数。值为1表示将使用预最终层的输出计算提示嵌入。

将提示编码到文本编码器的隐藏状态。

HunyuanDiTPAGPipeline

diffusers.HunyuanDiTPAGPipeline

< >

( vae: AutoencoderKL text_encoder: BertModel tokenizer: BertTokenizer transformer: HunyuanDiT2DModel scheduler: DDPMScheduler safety_checker: Optional = None feature_extractor: Optional = None requires_safety_checker: bool = True text_encoder_2: Optional = None tokenizer_2: Optional = None pag_applied_layers: Union = 'blocks.1' )

参数

  • vae (AutoencoderKL) — 可变自动编码器 (VAE) 模型,用于将图像编码和解码为潜在表示。我们使用 sdxl-vae-fp16-fix
  • text_encoder (Optional[~transformers.BertModel, ~transformers.CLIPTextModel]) — 冻结的文本编码器 (clip-vit-large-patch14)。HunyuanDiT 使用微调的双语 CLIP。
  • tokenizer (可选[~transformers.BertTokenizer, ~transformers.CLIPTokenizer]) — 一个用于标记文本的 BertTokenizerCLIPTokenizer
  • transformer (HunyuanDiT模型) — 由腾讯混元设计的 HunyuanDiT 模型。
  • text_encoder_2 (T5EncoderModel) — mT5 沉浸器。具体为 't5-v1_1-xxl'。
  • tokenizer_2 (MT5Tokenizer) — mT5 沉浸器的标记器。
  • 调度器 (DDPMScheduler) — 用于与 HunyuanDiT 结合以去噪编码图像潜伏量的调度器。

使用 HunyuanDiT 和 扰动注意引导 进行英语/中文到图像生成的流水线。

此模型继承自 DiffusionPipeline。请查看超级类文档,了解库为所有流水线实现的标准方法(如下载或保存、在特定设备上运行等)。

HunyuanDiT 使用两个文本编码器:mT5 和 [ bilingual CLIP(我们自行微调的)]

__call__

< >

( prompt: Union = None height: Optional = None width: Optional = None num_inference_steps: Optional = 50 guidance_scale: Optional = 5.0 negative_prompt: Union = None num_images_per_prompt: Optional = 1 eta: Optional = 0.0 generator: Union = None latents: Optional = None prompt_embeds: Optional = None prompt_embeds_2: Optional = None negative_prompt_embeds: Optional = None negative_prompt_embeds_2: Optional = None prompt_attention_mask: Optional = None prompt_attention_mask_2: Optional = None negative_prompt_attention_mask: Optional = None negative_prompt_attention_mask_2: Optional = None output_type: Optional = 'pil' return_dict: bool = True callback_on_step_end: Union = None callback_on_step_end_tensor_inputs: List = ['latents'] guidance_rescale: float = 0.0 original_size: Optional = (1024, 1024) target_size: Optional = None crops_coords_top_left: Tuple = (0, 0) use_resolution_binning: bool = True pag_scale: float = 3.0 pag_adaptive_scale: float = 0.0 ) StableDiffusionPipelineOutput or tuple

参数

  • prompt (strList[str]可选) — 指导图像生成的提示或提示列表。如果未定义,则需要传递 prompt_embeds
  • height (int) — 生成的图像的高度(像素)。
  • width (int) — 生成的图像的宽度(像素)。
  • num_inference_steps (int, 可选,默认为50) — 去噪步骤的数量。更多的去噪步骤通常会导致图像质量更高,但推理速度会变慢。此参数受strength的影响。
  • 向导缩放比例 (float可选,默认为7.5) — 较高的向导缩放比例会鼓励模型在牺牲图像质量的情况下生成与文本提示紧密相关的图像。当向导缩放比例 > 1时,启用向导缩放比例。
  • 否定提示 (strstr列表可选) — 用于指导图像生成时排除的提示。如果没有定义,可以使用negative_prompt_embeds代替。当不在使用指导(向导缩放比例 < 1)时,忽略。
  • 每提示生成图像数量 (int可选,默认为1) — 每个提示生成的图像数量。
  • eta (float, 可选, 默认为 0.0) — 对应于DDIM论文中的参数 eta (η)。仅适用于 DDIMScheduler,在其他调度器中被忽略。
  • generator (torch.GeneratorList[torch.Generator], 可选) — 用于使生成确定性化的 torch.Generator
  • prompt_embeds (torch.Tensor, 可选) — 预生成的文本嵌入。可用于轻松调整文本输入(提示权重)。如未提供,将从 prompt 输入参数生成文本嵌入。
  • prompt_embeds_2 (torch.Tensor, 可选) — 预生成的文本嵌入。可用于轻松调整文本输入(提示加权)。如未提供,则从prompt输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, 可选) — 预生成的负文本嵌入。可用于轻松调整文本输入(提示加权)。如未提供,则从negative_prompt输入参数生成负文本嵌入。
  • negative_prompt_embeds_2 (torch.Tensor, 可选) — 预生成的负文本嵌入。可用于轻松调整文本输入(提示加权)。如未提供,则从negative_prompt输入参数生成负文本嵌入。
  • prompt_attention_mask (torch.Tensor, 可选) — 提示的注意力掩码。在直接传递 prompt_embeds 时需要。
  • prompt_attention_mask_2 (torch.Tensor, 可选) — 提示的注意力掩码。在直接传递 prompt_embeds_2 时需要。
  • negative_prompt_attention_mask (torch.Tensor, 可选) — 负提示的注意力掩码。在直接传递 negative_prompt_embeds 时需要。
  • negative_prompt_attention_mask_2 (torch.Tensor, 可选) — 负提示的注意力掩码。在直接传递 negative_prompt_embeds_2 时需要。
  • output_type (str, 可选, 默认为 "pil") —生成的图像的输出格式。选择 PIL.Imagenp.array
  • return_dict (bool, 可选, 默认为 True) —是否返回 StableDiffusionPipelineOutput 而不是普通元组。
  • callback_on_step_end (Callable[[int, int, Dict], None], PipelineCallback, MultiPipelineCallbacks, 可选) —在每一步去噪步骤结束时被调用的回调函数或回调函数列表。
  • callback_on_step_end_tensor_inputs (字符串列表, 可选) — 应传递给回调函数的张量输入列表。若未定义,则传递所有张量输入。
  • guidance_rescale (浮点数, 可选, 默认为 0.0) — 根据指导重放噪声配置。基于共同扩散噪声计划和样本步骤是错误的发现。请参阅第3.4节。
  • original_size (整数元组, 可选, 默认为 (1024, 1024)) — 图像的原始大小。用于计算时间ID。
  • target_size (Tuple[int, int], 可选) — 图像的目标大小。用于计算时间ID。
  • crops_coords_top_left (Tuple[int, int], 可选, 默认为 (0, 0)) — 裁剪的左上角坐标。用于计算时间ID。
  • use_resolution_binning (bool, 可选, 默认为 True) — 是否使用分辨率装箱。如果为 True,则输入分辨率将被映射到最近的标准化分辨率。支持的分辨率包括1024x1024,1280x1280,1024x768,1152x864,1280x960,768x1024,864x1152,960x1280,1280x768,以及768x1280。建议设置为 True
  • pag_scale (float, 可选, 默认为3.0) — 带扰动注意力引导的缩放因子。如果设置为0.0,则不使用带扰动注意力引导。
  • pag_adaptive_scale (float, 可选, 默认为0.0) — 带扰动注意力引导的自适应缩放因子。如果设置为0.0,则使用pag_scale

返回值

StableDiffusionPipelineOutputtuple

如果 return_dict 设置为 True,则返回 StableDiffusionPipelineOutput,否则返回一个包含生成的图像列表和是否包含“不适宜工作场所”内容(nsfw)的布尔值列表的 tuple

调用HunyuanDiT生成流的水管道的调用函数。

示例

>>> import torch
>>> from diffusers import AutoPipelineForText2Image

>>> pipe = AutoPipelineForText2Image.from_pretrained(
...     "Tencent-Hunyuan/HunyuanDiT-v1.2-Diffusers",
...     torch_dtype=torch.float16,
...     enable_pag=True,
...     pag_applied_layers=[14],
... ).to("cuda")

>>> # prompt = "an astronaut riding a horse"
>>> prompt = "一个宇航员在骑马"
>>> image = pipe(prompt, guidance_scale=4, pag_scale=3).images[0]

encode_prompt

< >

( prompt: str device: device = None dtype: dtype = None num_images_per_prompt: int = 1 do_classifier_free_guidance: bool = True negative_prompt: Optional = None prompt_embeds: Optional = None negative_prompt_embeds: Optional = None prompt_attention_mask: Optional = None negative_prompt_attention_mask: Optional = None max_sequence_length: Optional = None text_encoder_index: int = 0 )

参数

  • prompt (strList[str]可选) — 要编码的提示
  • dtype (torch.dtype) — torch 数据类型
  • prompt_embeds (torch.Tensor, optional) — 预生成的文本嵌入。可用于轻松调整文本输入,例如调整提示权重。如果没有提供,则将从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, optional) — 预生成的负文本嵌入。可用于轻松调整文本输入,例如调整提示权重。如果没有提供,则将从 negative_prompt 输入参数生成负文本嵌入。
  • prompt_attention_mask (torch.Tensor, optional) — 提示的注意力掩码。当直接传递 prompt_embeds 时需要。
  • negative_prompt_attention_mask (torch.Tensor, 可选) — 负提示的注意力掩码。当直接传递negative_prompt_embeds时需要。
  • max_sequence_length (int, 可选) — 用于提示的最大序列长度。
  • text_encoder_index (int, 可选) — 要使用的文本编码器的索引。0为clip和1为T5。

将提示编码到文本编码器的隐藏状态。

KolorsPAGPipeline

diffusers.KolorsPAGPipeline

< >

( vae: AutoencoderKL text_encoder: ChatGLMModel tokenizer: ChatGLMTokenizer unet: UNet2DConditionModel scheduler: KarrasDiffusionSchedulers image_encoder: CLIPVisionModelWithProjection = None feature_extractor: CLIPImageProcessor = None force_zeros_for_empty_prompt: bool = False pag_applied_layers: Union = 'mid' )

参数

  • vae (AutoencoderKL) — 变分自编码器模型,用于将图像编码和解码为潜在表示。
  • text_encoder (ChatGLMModel) — 冻结文本编码器。Kolors使用ChatGLM3-6B
  • tokenizer (ChatGLMTokenizer) — 类ChatGLMTokenizer的标记器。
  • unet (UNet2DConditionModel) — 用于去噪编码图像潜变量的条件U-Net架构。
  • 调度器 (SchedulerMixin) — 一个与 unet 结合使用来降噪编码图像潜伏量的调度程序。可以是以下之一:DDIMSchedulerLMSDiscreteSchedulerPNDMScheduler
  • force_zeros_for_empty_prompt (bool可选,默认为 "False") — 是否强制将负提示嵌入始终设置为 0。另请参阅 Kwai-Kolors/Kolors-diffusers 的配置。
  • pag_applied_layers (strList[str]`*可选*,默认为 `"mid"``) — 设置应用扰动注意力引导的变换器注意力层。可以是字符串或包含 "down"、"mid"、"up"、整个变换器块或特定变换器块注意力层的字符串列表,例如:[“mid”]["down", "mid"] [“down”,“mid”, “up.block_1”]["down”,“mid”,“up.block_1.attentions_0”,“up.block_1.attentions_1”]

使用 Kolors 的文本到图像生成管道。

此模型继承自 DiffusionPipeline。请查看超级类文档,了解库为所有流水线实现的标准方法(如下载或保存、在特定设备上运行等)。

流水线还继承了以下加载方法

__call__

< >

( prompt: Union = None height: Optional = None width: Optional = None num_inference_steps: int = 50 timesteps: List = None sigmas: List = None denoising_end: Optional = None guidance_scale: float = 5.0 negative_prompt: Union = None num_images_per_prompt: Optional = 1 eta: float = 0.0 generator: Union = None latents: Optional = None prompt_embeds: Optional = None pooled_prompt_embeds: Optional = None negative_prompt_embeds: Optional = None negative_pooled_prompt_embeds: Optional = None ip_adapter_image: Union = None ip_adapter_image_embeds: Optional = None output_type: Optional = 'pil' return_dict: bool = True cross_attention_kwargs: Optional = None original_size: Optional = None crops_coords_top_left: Tuple = (0, 0) target_size: Optional = None negative_original_size: Optional = None negative_crops_coords_top_left: Tuple = (0, 0) negative_target_size: Optional = None callback_on_step_end: Union = None callback_on_step_end_tensor_inputs: List = ['latents'] pag_scale: float = 3.0 pag_adaptive_scale: float = 0.0 max_sequence_length: int = 256 ) ~pipelines.kolors.KolorsPipelineOutput or tuple

参数

  • prompt (strList[str]可选) — 指导图像生成的提示或提示列表。如果没有定义,必须传递 prompt_embeds。代替。
  • height (int可选,默认为 self.unet.config.sample_size * self.vae_scale_factor) — 生成图像的高度(像素)。默认设置为 1024 以获得最佳结果。512 像素以下将不适合 Kwai-Kolors/Kolors-diffusers 以及没有在低分辨率上专门微调的检查点。
  • width(《int》,可选,默认为 self.unet.config.sample_size * self.vae_scale_factor)— 生成的图像的像素宽度。默认设置为1024,以获得最佳效果。低于512像素的分辨率对于Kwai-Kolors/Kolors-diffusers以及未针对低分辨率特别微调的检查点效果不佳。
  • num_inference_steps(《int》,可选,默认值为50)— 反噪声步骤的数量。更多的反噪声步骤通常会导致图像质量更高,但推理速度会变慢。
  • timesteps(《List[int]》,可选)— 对于支持在其set_timesteps方法中传递timesteps参数的计划程序,用于反噪声过程的自定义时间步。如果不定义,则为num_inference_steps传递时的默认行为。必须按降序排列。
  • sigmas (List[float], 可选) — 在支持在set_timesteps方法中传入sigmas参数的调度器中使用的自定义sigmas值,用于去噪过程。如果没有定义,使用num_inference_steps时将使用默认行为。
  • denoising_end (float, 可选) — 当指定时,确定在有意提前终止之前完成的总去噪过程的分数(介于0.0和1.0之间)。因此,返回的样本仍然保留了一定量的噪声,这些噪声由调度器选定的离散时间步长确定。建议在此管道作为“去噪器混合”多管道设置的一部分时使用此参数,如图像输出细化中所述。
  • guidance_scale (float, 可选, 默认为5.0) — 如在无分类器扩散指导中定义,为指导比例。在Imagen Paper的等式2中,guidance_scale被定义为w。指导比例由设置guidance_scale > 1启用。更高的指导比例会鼓励生成与文本prompt紧密相关的图像,通常以牺牲图像质量为代价。
  • negative_prompt (strList[str], 可选) — 用于不引导图像生成的提示或提示列表。如果未定义,则必须传递 negative_prompt_embeds。在没有使用引导时(即当 guidance_scale 小于 1 时)将被忽略。
  • num_images_per_prompt (int,可选,默认为1) — 每个提示生成图像的数量。
  • eta (float,可选,默认为0.0) — 对应于DDIM论文中的参数η(η):https://arxiv.org/abs/2010.02502。仅适用于 schedulers.DDIMScheduler,对于其他情况将被忽略。
  • generator (torch.Generator or List[torch.Generator], optional) — 一个或多个用于使生成过程确定性的 torch 生成器
  • latents (torch.Tensor, optional) — 预生成的噪声潜伏变量,从高斯分布中采样,用作图像生成的输入。可用于调整不同提示的相同生成效果。如果没有提供,将通过提供的随机 generator 采样生成潜伏变量张量。
  • prompt_embeds (torch.Tensor, optional) — 预生成的文本嵌入。可用于轻松调整文本输入,例如提示权重。如果未提供,则从 prompt 输入参数生成文本嵌入。
  • pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果未提供,池化文本嵌入将从 prompt 输入参数生成。
  • negative_prompt_embeds (torch.Tensor, 可选) — 预生成的负向文本嵌入。可用于轻松调整文本输入,例如提示权重。如果未提供,则从 negative_prompt 输入参数生成。
  • negative_pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的负向池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果未提供,则从 negative_prompt 输入参数生成。
  • ip_adapter_image_embeds (torch.Tensor列表,可选) — 针对IP-Adapter的预生成图像嵌入。应与IP适配器的数量相同。每个元素应是一个形状为(batch_size, num_images, emb_dim)的张量。如果do_classifier_free_guidance设置为True,应包含负图像嵌入。如果没有提供,则从输入参数ip_adapter_image计算嵌入。
  • output_type (str可选,默认为"pil") — 生成图像的输出格式。可以选择PILPIL.Image.Imagenp.array
  • return_dict (bool可选,默认为True) — 是否返回代码~pipelines.kolors.KolorsPipelineOutput而不是一个纯元组。
  • cross_attention_kwargs (dict, 可选) — 如果指定,则传递给 AttentionProcessor 作为 self.processor 下的定义在 diffusers.models.attention_processor
  • original_size (int Tuple, 可选, 默认为 (1024, 1024)) — 如果 original_sizetarget_size 不相同,则图像看起来会被下采样或上采样。如果未指定,则默认为 (height, width)。这是 SDXL 的微条件的一部分,如第 2.2 节所述 https://huggingface.co/papers/2307.01952
  • crops_coords_top_left (int Tuple, 可选, 默认为 (0, 0)) — 可以使用 crops_coords_top_left 来生成从 crops_coords_top_left 位置向下“裁剪”的图像。通常通过将 crops_coords_top_left 设置为 (0, 0) 来获得居中的好图像。这是 SDXL 的微条件的一部分,如第 2.2 节所述 https://huggingface.co/papers/2307.01952
  • target_size (元组[int], 可选, 默认为 (1024, 1024)) — 对于大多数情况,应将 target_size 设置为所需图像的高度和宽度。如果没有指定,它将默认为 (高度, 宽度)。这是SDXL微条件的一部分,如第2.2节中解释,见 https://huggingface.co/papers/2307.01952
  • negative_original_size (元组[int], 可选, 默认为 (1024, 1024)) — 根据特定的图像分辨率对生成过程进行负条件化。这是SDXL微条件的一部分,如第2.2节中解释,见 https://huggingface.co/papers/2307.01952。更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • negative_crops_coords_top_left (元组[int], 可选, 默认为 (0, 0)) — 根据特定的裁剪坐标对生成过程进行负条件化。这是SDXL微条件的一部分,如第2.2节中解释,见 https://huggingface.co/papers/2307.01952。更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • negative_target_size(《元组[int]`,可选,默认为 (1024, 1024)) —— 基于目标图像分辨率来负向条件生成过程。在大多数情况下,应与 target_size 相同。是 SDXL 的微条件之一,如第 2.2 节所述 https://huggingface.co/papers/2307.01952。更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • callback_on_step_end(《可调用`,`PipelineCallback`,`MultiPipelineCallbacks`,可选) —— 在推理过程中,在每一步降噪结束时被调用的函数或《PipelineCallback》或《MultiPipelineCallbacks》的子类。具有以下参数:`callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict)`。`callback_kwargs` 将包含由 `callback_on_step_end_tensor_inputs` 指定的所有张量列表。
  • callback_on_step_end_tensor_inputs(《列表`,可选) —— 《callback_on_step_end》函数的张量输入列表。列表中指定的张量将作为 `callback_kwargs` 参数传递。您只能包含在您的管道类 `._callback_tensor_inputs` 属性中列出的变量。
  • pag_scale (float, 可选, 默认为 3.0) — 适用于扰动的注意力引导的缩放因子。如果设置为 0.0,则不会使用扰动的注意力引导。
  • pag_adaptive_scale (float, 可选, 默认为 0.0) — 适用于扰动的注意力引导的自适应缩放因子。如果设置为 0.0,则使用 pag_scale
  • max_sequence_length (int 默认为 256) — 使用 prompt 时可用的最大序列长度。

返回值

~pipelines.kolors.KolorsPipelineOutputtuple

~pipelines.kolors.KolorsPipelineOutput 如果 return_dict 为真,否则为 tuple。当返回一个元组时,第一个元素是一个包含生成的图像的列表。

在调用生成管线时调用的函数。

示例

>>> import torch
>>> from diffusers import AutoPipelineForText2Image

>>> pipe = AutoPipelineForText2Image.from_pretrained(
...     "Kwai-Kolors/Kolors-diffusers",
...     variant="fp16",
...     torch_dtype=torch.float16,
...     enable_pag=True,
...     pag_applied_layers=["down.block_2.attentions_1", "up.block_0.attentions_1"],
... )
>>> pipe = pipe.to("cuda")

>>> prompt = (
...     "A photo of a ladybug, macro, zoom, high quality, film, holding a wooden sign with the text 'KOLORS'"
... )
>>> image = pipe(prompt, guidance_scale=5.5, pag_scale=1.5).images[0]

encode_prompt

< >

( prompt device: Optional = None num_images_per_prompt: int = 1 do_classifier_free_guidance: bool = True negative_prompt = None prompt_embeds: Optional = None pooled_prompt_embeds: Optional = None negative_prompt_embeds: Optional = None negative_pooled_prompt_embeds: Optional = None max_sequence_length: int = 256 )

参数

  • prompt (str or List[str], optional) — 要编码的提示; device — (torch.device) PyTorch 设备
  • num_images_per_prompt (int) — 每个提示应该生成的图片数量
  • do_classifier_free_guidance (bool) — 是否使用无分类器指导
  • negative_prompt (strList[str],可选) — 不用于指导图像生成的提示或提示列表。如果没有定义,则必须传递 negative_prompt_embeds。在没有使用指导的情况下忽略(即,如果 guidance_scale 小于 1 则忽略)。
  • prompt_embeds (torch.FloatTensor, 可选) — 预生成的文本嵌入。可用于轻松调整文本输入,例如提示权重。如果没有提供,将根据 prompt 输入参数生成文本嵌入。
  • pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果没有提供,将根据 prompt 输入参数生成池化文本嵌入。
  • negative_prompt_embeds (torch.FloatTensor, 可选) — 预生成的负文本嵌入。可用于轻松调整文本输入,例如提示权重。如果没有提供,将根据 negative_prompt 输入参数生成负文本嵌入。
  • negative_pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的负池化文本嵌入。可以用于轻松调整文本输入,例如提示加权。如果未提供,将根据negative_prompt输入参数生成池化负提示嵌入。
  • max_sequence_length (int 默认为 256) — 与 prompt 一起使用的最大序列长度。

将提示编码到文本编码器的隐藏状态。

get_guidance_scale_embedding

< >

( w: Tensor embedding_dim: int = 512 dtype: dtype = torch.float32 ) torch.Tensor

参数

  • w (torch.Tensor) — 生成带指定引导比例的嵌入向量,随后丰富时间步嵌入。
  • embedding_dim (int, 可选,默认为512) — 生成嵌入向量的维度。
  • dtype (torch.dtype, 可选,默认为torch.float32) — 生成嵌入的数据类型。

返回值

torch.Tensor

形状为 (len(w), embedding_dim) 的嵌入向量。

参见 https://github.com/google-research/vdm/blob/dc27b98a554f65cdc654b800da5aa1846545d41b/model_vdm.py#L298

StableDiffusionPAGPipeline

diffusers.StableDiffusionPAGPipeline

< >

( vae: AutoencoderKL text_encoder: CLIPTextModel tokenizer: CLIPTokenizer unet: UNet2DConditionModel scheduler: KarrasDiffusionSchedulers safety_checker: StableDiffusionSafetyChecker feature_extractor: CLIPImageProcessor image_encoder: CLIPVisionModelWithProjection = None requires_safety_checker: bool = True pag_applied_layers: Union = 'mid' )

参数

  • vae (AutoencoderKL) — 对图像进行编码和解码以获得和从潜在表示的变分自动编码器(VAE)模型。
  • text_encoder (CLIPTextModel) — 冻结文本编码器 (clip-vit-large-patch14).
  • tokenizer (CLIPTokenizer) — 用于分词的 CLIPTokenizer
  • unet (UNet2DConditionModel) — 用于去噪编码图像隐含变量的 UNet2DConditionModel
  • 调度器 (SchedulerMixin) —— 一个与 unet 结合使用以去杂压编码图像潜在变量的调度器。可以是以下之一:DDIMSchedulerLMSDiscreteSchedulerPNDMScheduler
  • 安全检查器 (StableDiffusionSafetyChecker) —— 估计生成的图像是否可能被认为具有攻击性或有害的分类模块。请参阅模型卡片了解更多关于模型潜在危害的详细信息。
  • 特征提取器 (CLIPImageProcessor) —— 用于从生成的图像中提取特征的 CLIPImageProcessor;用作 安全检查器 的输入。

使用 Stable Diffusion 进行文本到图像生成的工作流程。

此模型继承自 DiffusionPipeline。查看超类文档以获取为所有流水线实现的一般方法(下载、保存、在特定设备上运行等)。

流水线还继承了以下加载方法

__call__

< >

( prompt: Union = None height: Optional = None width: Optional = None num_inference_steps: int = 50 timesteps: List = None sigmas: List = None guidance_scale: float = 7.5 negative_prompt: Union = None num_images_per_prompt: Optional = 1 eta: float = 0.0 generator: Union = None latents: Optional = None prompt_embeds: Optional = None negative_prompt_embeds: Optional = None ip_adapter_image: Union = None ip_adapter_image_embeds: Optional = None output_type: Optional = 'pil' return_dict: bool = True cross_attention_kwargs: Optional = None guidance_rescale: float = 0.0 clip_skip: Optional = None callback_on_step_end: Optional = None callback_on_step_end_tensor_inputs: List = ['latents'] pag_scale: float = 3.0 pag_adaptive_scale: float = 0.0 ) StableDiffusionPipelineOutput or tuple

参数

  • prompt (strList[str]可选) — 指导图像生成的提示或提示序列。如果未定义,则需要传递 prompt_embeds
  • height (int可选,默认为 self.unet.config.sample_size * self.vae_scale_factor) — 生成的图像的像素高度。
  • width (int, 可选,默认为 self.unet.config.sample_size * self.vae_scale_factor) — 生成的图像的宽度(像素)。
  • num_inference_steps (int, 可选,默认为 50) — 消噪步骤的数量。更多的消噪步骤通常会导致图像质量更高,但推理速度会变慢。
  • timesteps (List[int], 可选) — 用于具有支持在 set_timesteps 方法中接受 timesteps 参数的调度器的去噪过程的自定义时间步长。如果没有定义,当传递 num_inference_steps 时将使用默认行为。必须按降序排列。
  • sigmas(《float》列表,可选)— 用于支持在其set_timesteps方法中具有sigmas参数的调度器的降噪过程的定制sigmas。如果未定义,当传递num_inference_steps时将使用默认行为。
  • guidance_scale(《float》,可选,默认为7.5)— 较高的指导尺度值会鼓励模型生成图像与文本prompt紧密相关,代价是图像质量较低。当guidance_scale > 1时启用指导尺度。
  • negative_prompt(《str》或《str》列表,可选)— 指导图像生成时不含内容的提示。如果未定义,则需要传递negative_prompt_embeds。当未使用指导(guidance_scale < 1)时忽略。
  • num_images_per_prompt (int, 可选, 默认为 1) — 每个提示生成图像的数量。
  • eta (float, 可选, 默认为 0.0) — 与论文DDIM中的参数 η (η) 对应。仅适用于 DDIMScheduler,在其他调度器中被忽略。
  • generator (torch.GeneratorList[torch.Generator], 可选) — 用于使生成确定性化的 torch.Generator
  • latents (torch.Tensor, optional) — 预生成的从高斯分布中采样的噪声latents,用作图像生成的输入。可用于使用不同的提示修改相同的生成。如果没有提供,将使用提供的随机generator生成latents张量。
  • prompt_embeds (torch.Tensor, optional) — 预生成的文本嵌入。可用于轻松调整文本输入(提示加权)。如果没有提供,将从prompt输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, optional) — 预生成的负文本嵌入。可用于轻松调整文本输入(提示加权)。如果没有提供,将从negative_prompt输入参数生成负文本嵌入。
  • ip_adapter_image_embeds (torch.Tensor列表,可选) — 为IP-Adapter预生成的图像嵌入。应与IP适配器的数量长度相同。每个元素应是一个形状为(batch_size, num_images, emb_dim)的张量。如果将do_classifier_free_guidance设置为True,则应包含负图像嵌入。如果没有提供,将从ip_adapter_image输入参数中计算嵌入。
  • output_type (str可选,默认为"pil") — 生成图像的输出格式。可在PIL.Imagenp.array之间选择。
  • return_dict (bool可选,默认为True) — 是否返回一个StableDiffusionPipelineOutput而不是一个普通元组。
  • cross_attention_kwargs (dict,可选) — 当指定时,会作为kwargs字典传递给由 self.processor 定义的 AttentionProcessor
  • guidance_rescale (float,可选,默认为0.0) — 来自Common Diffusion Noise Schedules and Sample Steps are Flawed的指南缩放因子。指南缩放因子应修正使用零终端SNR时的过度曝光。
  • clip_skip (int,可选) — 在计算提示嵌入时要跳过的CLIP层次数。值为1表示将使用预最终层的输出计算提示嵌入。
  • callback_on_step_end (Callable, PipelineCallback, MultiPipelineCallbacks, 可选) — 一个函数,或为 PipelineCallbackMultiPipelineCallbacks 的子类,在每个推理步骤的最后被调用。其参数如下: callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict)callback_kwargs 将包含由 callback_on_step_end_tensor_inputs 指定的所有张量的列表。
  • callback_on_step_end_tensor_inputs (列表, 可选) — 用于 callback_on_step_end 函数的张量输入列表。列表中指定的张量将作为 callback_kwargs 参数传递。您只能包括您的管道类 ._callback_tensor_inputs 属性中列出的变量。
  • pag_scale (浮点数, 可选, 默认为 3.0) — 扰动注意力引导的缩放因子。如果设置为 0.0,则不使用扰动注意力引导。
  • pag_adaptive_scale (float, 可选, 默认为0.0) — 对扰动注意力引导的自适应缩放因子。如果设置为0.0,则使用pag_scale

返回值

StableDiffusionPipelineOutputtuple

如果 return_dict 设置为 True,则返回 StableDiffusionPipelineOutput,否则返回一个包含生成的图像列表和是否包含“不适宜工作场所”内容(nsfw)的布尔值列表的 tuple

称为 pipeline 的生成调用函数。

示例

>>> import torch
>>> from diffusers import AutoPipelineForText2Image

>>> pipe = AutoPipelineForText2Image.from_pretrained(
...     "runwayml/stable-diffusion-v1-5", torch_dtype=torch.float16, enable_pag=True
... )
>>> pipe = pipe.to("cuda")

>>> prompt = "a photo of an astronaut riding a horse on mars"
>>> image = pipe(prompt, pag_scale=0.3).images[0]

encode_prompt

< >

( 提示词 设备 每个提示词的图片数量 do_classifier_free_guidance 负提示词 = None 提示词嵌入: Optional = None 负提示词嵌入: Optional = None lora_scale: Optional = None clip_skip: Optional = None )

参数

  • prompt (strList[str], 可选) — 需要编码的提示
  • num_images_per_prompt (int) — 每个提示应生成的图像数
  • do_classifier_free_guidance (bool) — 是否使用无分类器引导
  • negative_prompt (strList[str]可选) — 不用于指导图像生成的提示或提示列表。如果未定义,则必须传入 negative_prompt_embeds。当不使用引导时(即当 guidance_scale 小于 1 时)将被忽略。
  • prompt_embeds (torch.Tensor可选) — 预生成的文本嵌入。可用于轻松调整文本输入,例如提示加权。如果未提供,将从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, 可选) — 预生成的负面文本嵌入。可用于轻松调整文本输入,例如提示加权。如果未提供,则将从negative_prompt输入参数生成negative_prompt_embeds。
  • lora_scale (float, 可选) — 当加载LoRA层时,将应用于文本编码器中所有LoRA层的LoRA缩放值。
  • clip_skip (int, 可选) — 在计算提示嵌入时从CLIP中跳过的层数。值为1表示将使用预最终层的输出计算提示嵌入。

将提示编码到文本编码器的隐藏状态。

get_guidance_scale_embedding

< >

( w: Tensor embedding_dim: int = 512 dtype: dtype = torch.float32 ) torch.Tensor

参数

  • 参数 w (torch.Tensor) — 生成带有指定指导比例的嵌入向量,以丰富时间步嵌入。
  • 参数 embedding_dim (int, 可选, 默认为 512) — 生成嵌入向量的维度。
  • 参数 dtype (torch.dtype, 可选, 默认为 torch.float32) — 生成嵌入的数据类型。

返回值

torch.Tensor

形状为 (len(w), embedding_dim) 的嵌入向量。

参见 https://github.com/google-research/vdm/blob/dc27b98a554f65cdc654b800da5aa1846545d41b/model_vdm.py#L298

StableDiffusionControlNetPAGPipeline

diffusers.StableDiffusionControlNetPAGPipeline

< >

( vae: AutoencoderKL text_encoder: CLIPTextModel tokenizer: CLIPTokenizer unet: UNet2DConditionModel controlnet: Union scheduler: KarrasDiffusionSchedulers safety_checker: StableDiffusionSafetyChecker feature_extractor: CLIPImageProcessor image_encoder: CLIPVisionModelWithProjection = None requires_safety_checker: bool = True pag_applied_layers: Union = 'mid' )

参数

  • vae (自动编码KL) — 变分自编码器 (VAE) 模型,用于编码和解码图像以到达潜在表示并返回。
  • text_encoder (CLIPTextModel) — 冻结文本编码器 (clip-vit-large-patch14).
  • tokenizer (CLIPTokenizer) — 用于分词的 CLIPTokenizer.
  • unet (UNet2D条件模型) — 用于去除已编码图像潜在处的噪声的 UNet2DConditionModel.
  • controlnetControlNetModelList[ControlNetModel]) — 在去噪过程中为 unet 提供额外的条件。如果您设置多个 ControlNet 作为列表,则将每个 ControlNet 的输出相加以创建一个组合的额外条件。
  • schedulerSchedulerMixin) — 用于与 unet 结合以去噪编码图像隐含的调度程序。可以是以下之一: DDIMSchedulerLMSDiscreteSchedulerPNDMScheduler
  • safety_checkerStableDiffusionSafetyChecker) — 用于估计生成图像是否可能被认为是攻击性的或有害的分类模块。请参阅模型卡片获取有关模型潜在危害的更多信息。
  • feature_extractor (CLIPImageProcessor) — 从生成的图像中提取特征的 CLIPImageProcessor;用作 safety_checker 的输入。

使用 ControlNet 指导进行文本到图像生成的 Stable Diffusion 管道。

此模型继承自 DiffusionPipeline。查看超类文档以获取为所有流水线实现的一般方法(下载、保存、在特定设备上运行等)。

流水线还继承了以下加载方法

__call__

< >

( prompt: Union = None image: Union = None height: Optional = None width: Optional = None num_inference_steps: int = 50 timesteps: List = None sigmas: List = None guidance_scale: float = 7.5 negative_prompt: Union = None num_images_per_prompt: Optional = 1 eta: float = 0.0 generator: Union = None latents: Optional = None prompt_embeds: Optional = None negative_prompt_embeds: Optional = None ip_adapter_image: Union = None ip_adapter_image_embeds: Optional = None output_type: Optional = 'pil' return_dict: bool = True cross_attention_kwargs: Optional = None controlnet_conditioning_scale: Union = 1.0 guess_mode: bool = False control_guidance_start: Union = 0.0 control_guidance_end: Union = 1.0 clip_skip: Optional = None callback_on_step_end: Union = None callback_on_step_end_tensor_inputs: List = ['latents'] pag_scale: float = 3.0 pag_adaptive_scale: float = 0.0 ) StableDiffusionPipelineOutput or tuple

参数

  • prompt (strList[str], 可选) — 指导图像生成的提示或提示列表。如果没有定义,您需要传递 prompt_embeds
  • 图像 (torch.TensorPIL.Image.Imagenp.ndarrayList[torch.Tensor]List[PIL.Image.Image]List[np.ndarray],— List[List[np.ndarray]]List[List[PIL.Image.Image]]>):向 unet 生成提供指导的控制网输入条件。如果类型指定为 torch.Tensor,则将其直接传递给控制网。PIL.Image.Image 也可以接受作为图像。输出图像的维度默认为 image 的维度。如果传递了高度和/或宽度,则根据这些值对 image 进行调整大小。如果在 init 中指定了多个 ControlNet,则必须将图像作为列表传递,以便列表中的每个元素可以正确地分批输入单个控制网。当 prompt 是列表时,如果为单个控制网传递了图像列表,则每个图像将与 prompt 列表中的每个提示配对。这也适用于多个控制网,其中可以传递图像列表的列表,以便为每个提示和每个控制网分批处理。
  • 高度 (int可选,默认值为 self.unet.config.sample_size * self.vae_scale_factor) — 生成图像的像素高度。
  • 宽度 (int可选,默认值为 self.unet.config.sample_size * self.vae_scale_factor) — 生成图像的像素宽度。
  • num_inference_steps (int, 可选, 默认为50) — 降噪步数。更多的降噪步骤通常会导致图像质量更高,但推理速度会较慢。
  • timesteps (整数列表, 可选) — 对于支持在 set_timesteps 方法中传入 timesteps 参数的调度器,使用自定义的timesteps进行降噪过程。如果没有定义,将使用当传递 num_inference_steps 时的默认行为。必须按降序排列。
  • sigmas (浮点列表, 可选) — 对于支持在 set_timesteps 方法中传入 sigmas 参数的调度器,使用自定义的sigmas进行降噪过程。如果没有定义,将使用当传递 num_inference_steps 时的默认行为。
  • guidance_scale (float, 可选, 默认为7.5) — 较高的引导尺度值会鼓励模型生成与文本prompt密切相关的图像,但会牺牲图像质量。引导尺度在guidance_scale > 1时启用。
  • negative_prompt (strList[str], 可选) — 指导图像生成时排除的内容的提示或提示列表。如果未定义,则需要传递negative_prompt_embeds。在未使用引导(guidance_scale < 1)时忽略。
  • num_images_per_prompt (int, 可选, 默认为1) — 每个提示生成的图像数量。
  • eta (float, 可选, 默认为 0.0) — 与DDIM论文中的参数 eta (η) 相对应。仅适用于 DDIMScheduler,在其他调度器中被忽略。
  • generator (torch.GeneratorList[torch.Generator], 可选) — 使用 torch.Generator 使生成过程确定性的生成器。
  • latents (torch.Tensor, 可选) — 预生成的从高斯分布采样的噪声 latents,用作图像生成的输入。可以用它来用不同的提示调整相同的生成。如果没有提供,将使用提供的随机 generator 生成 latents 张量。
  • prompt_embeds (torch.Tensor, 可选) — 预生成的文本嵌入。可用于轻松调整文本输入(提示权重)。如果未提供,则从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, 可选) — 预生成的负文本嵌入。可用于轻松调整文本输入(提示权重)。如果未提供,则从 negative_prompt 输入参数生成 negative_prompt_embeds。ip_adapter_image — (PipelineImageInput, 可选):与 IP 适配器一起工作的可选图像输入。
  • ip_adapter_image_embeds (List[torch.Tensor], 可选) — 为 IP-适配器预生成的图像嵌入。它应该是长度与 IP 适配器数量相同的列表。每个元素应该是一个形状为 (batch_size, num_images, emb_dim) 的张量。如果 do_classifier_free_guidance 设置为 True,则应包含负图像嵌入。如果未提供,则将从 ip_adapter_image 输入参数计算嵌入。
  • output_type (str, 可选, 默认为 "pil") — 输出生成图像的格式。可在 PIL.Imagenp.array 之间选择。
  • return_dict (bool, 可选, 默认为 True) — 是否返回 StableDiffusionPipelineOutput 而不是普通元组。
  • cross_attention_kwargs (dict, 可选) — 一个kwargs字典,如果指定,则将传递给 AttentionProcessor,该处理器定义在 self.processor 中。
  • controlnet_conditioning_scale (floatList[float]可选,默认为 1.0) — 在将 ControlNet 的输出加入原始 unet 中的残差之前,将它们与 controlnet_conditioning_scale 相乘。如果 init 中指定了多个 ControlNet,可以将相应的缩放比例设为列表。
  • guess_mode (bool可选,默认为 False) — 即使移除了所有提示,ControlNet 编码器也会尝试识别输入图像的内容。建议使用 3.0 到 5.0 之间的 guidance_scale 值。
  • control_guidance_start (floatList[float]可选,默认为 0.0) — ControlNet 开始应用的步骤总数百分比。
  • control_guidance_endfloatList[float]可选,默认为 1.0) — ControlNet 在应用时的停止百分比,总共的步数。
  • clip_skipint可选) — 在计算提示嵌入时会跳过的 CLIP 层数数。值为 1 时,将使用预最终层的输出计算提示嵌入。
  • callback_on_step_endCallablePipelineCallbackMultiPipelineCallbacks可选) — 在推理过程中,每一步去噪结束时调用的函数或 PipelineCallbackMultiPipelineCallbacks 的子类。它具有以下参数: callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict)callback_kwargs 将包含由 callback_on_step_end_tensor_inputs 指定的一组张量列表。
  • callback_on_step_end_tensor_inputs (列表, 可选) — 用于 callback_on_step_end 函数的张量输入列表。列表中指定的张量将作为 callback_kwargs 参数传递。您只能包括管道类 ._callback_tensor_inputs 属性中列出的变量。
  • pag_scale (浮点数, 可选,默认为 3.0) — 扰动注意力引导的缩放因子。如果设置为 0.0,则不使用扰动注意力引导。
  • pag_adaptive_scale (浮点数, 可选,默认为 0.0) — 扰动注意力引导的自适应缩放因子。如果设置为 0.0,则使用 pag_scale

返回值

StableDiffusionPipelineOutputtuple

如果 return_dict 设置为 True,则返回 StableDiffusionPipelineOutput,否则返回一个包含生成的图像列表和是否包含“不适宜工作场所”内容(nsfw)的布尔值列表的 tuple

称为 pipeline 的生成调用函数。

示例

>>> # !pip install opencv-python transformers accelerate
>>> from diffusers import AutoPipelineForText2Image, ControlNetModel, UniPCMultistepScheduler
>>> from diffusers.utils import load_image
>>> import numpy as np
>>> import torch

>>> import cv2
>>> from PIL import Image

>>> # download an image
>>> image = load_image(
...     "https://hf.co/datasets/hf-internal-testing/diffusers-images/resolve/main/sd_controlnet/hf-logo.png"
... )
>>> image = np.array(image)

>>> # get canny image
>>> image = cv2.Canny(image, 100, 200)
>>> image = image[:, :, None]
>>> image = np.concatenate([image, image, image], axis=2)
>>> canny_image = Image.fromarray(image)

>>> # load control net and stable diffusion v1-5
>>> controlnet = ControlNetModel.from_pretrained("lllyasviel/sd-controlnet-canny", torch_dtype=torch.float16)
>>> pipe = AutoPipelineForText2Image.from_pretrained(
...     "runwayml/stable-diffusion-v1-5", controlnet=controlnet, torch_dtype=torch.float16, enable_pag=True
... )

>>> # speed up diffusion process with faster scheduler and memory optimization
>>> # remove following line if xformers is not installed
>>> pipe.enable_xformers_memory_efficient_attention()

>>> pipe.enable_model_cpu_offload()

>>> # generate image
>>> generator = torch.manual_seed(0)
>>> image = pipe(
...     "aerial view, a futuristic research complex in a bright foggy jungle, hard lighting",
...     guidance_scale=7.5,
...     generator=generator,
...     image=canny_image,
...     pag_scale=10,
... ).images[0]

encode_prompt

< >

( 提示词 设备 每个提示词的图片数量 do_classifier_free_guidance 负提示词 = None 提示词嵌入: Optional = None 负提示词嵌入: Optional = None lora_scale: Optional = None clip_skip: Optional = None )

参数

  • prompt (strList[str],可选) — 待编码的提示
  • num_images_per_prompt (int) — 每个提示生成图像的数量
  • do_classifier_free_guidance (bool) — 是否使用无分类器引导
  • negative_prompt (strList[str], 可选) — 不用于引导图像生成的提示或提示列表。如果未定义,则需要传递 negative_prompt_embeds。在不使用引导(即如果 guidance_scale 小于 1)时将被忽略。
  • prompt_embeds (torch.Tensor, 可选) — 预生成的文本嵌入。可用于轻松调整文本输入,例如提示加权。如果没有提供,则将从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, 可选) — 预生成的负文本嵌入。可用于轻松调整文本输入,例如提示加权。如果没有提供,则将从 negative_prompt 输入参数生成负文本嵌入。
  • lora_scale (float, optional) — 当加载 LoRA 层时,将应用于文本编码器所有 LoRA 层的 LoRA 缩放因子。
  • clip_skip (int, optional) — 在计算提示嵌入时跳过的 CLIP 层数数。值为 1 表示将使用预最终层的输出进行提示嵌入计算。

将提示编码到文本编码器的隐藏状态。

get_guidance_scale_embedding

< >

( w: Tensor embedding_dim: int = 512 dtype: dtype = torch.float32 ) torch.Tensor

参数

  • w (torch.Tensor) — 使用指定的指导缩放比例生成嵌入向量,以随后丰富时间步嵌入。
  • embedding_dim (int, 可选, 默认为 512) — 需要生成的嵌入向量的维度。
  • dtype (torch.dtype, 可选, 默认为 torch.float32) — 生成的嵌入的数据类型。

返回值

torch.Tensor

形状为 (len(w), embedding_dim) 的嵌入向量。

参见 https://github.com/google-research/vdm/blob/dc27b98a554f65cdc654b800da5aa1846545d41b/model_vdm.py#L298

StableDiffusionXLPAGPipeline

diffusers.StableDiffusionXLPAGPipeline

< >

( vae: AutoencoderKL text_encoder: CLIPTextModel text_encoder_2: CLIPTextModelWithProjection tokenizer: CLIPTokenizer tokenizer_2: CLIPTokenizer unet: UNet2DConditionModel scheduler: KarrasDiffusionSchedulers image_encoder: CLIPVisionModelWithProjection = None feature_extractor: CLIPImageProcessor = None force_zeros_for_empty_prompt: bool = True add_watermarker: Optional = None pag_applied_layers: Union = 'mid' )

参数

  • vae (AutoencoderKL) — 用于编码和解码图像并从潜在表示中进行编码的变分自动编码器 (VAE) 模型。
  • text_encoder (CLIPTextModel) — 冻结文本编码器。Stable Diffusion XL使用CLIP的文本部分,具体是clip-vit-large-patch14变体。
  • text_encoder_2 (CLIPTextModelWithProjection) — 第二个冻结文本编码器。Stable Diffusion XL使用CLIP的文本和池部分,具体是laion/CLIP-ViT-bigG-14-laion2B-39B-b160k变体。
  • tokenizer (CLIPTokenizer) — 类 CLIPTokenizer 的标记器。
  • tokenizer_2 (CLIPTokenizer) — 类 CLIPTokenizer 的第二个标记化器。
  • unet (UNet2DConditionModel) — 用于去噪编码图像潜伏的联合 U-Net 架构。
  • scheduler (SchedulerMixin) — 一个与 unet 结合使用的调度器,用于去噪编码图像潜伏。可以是 DDIMSchedulerLMSDiscreteSchedulerPNDMScheduler 之一。
  • force_zeros_for_empty_prompt (bool, 可选, 默认为 "True") —— 是否应强迫负提示嵌入始终设置为 0。有关 stabilityai/stable-diffusion-xl-base-1-0 的配置,请参见相关配置。
  • add_watermarker (bool, 可选) —— 是否使用 Invisible Watermark 库 来标记输出图像。如果没有定义,如果已安装包,则默认为 True,否则不使用标记。

使用 Stable Diffusion XL 的文本到图像生成管道。

此模型继承自 DiffusionPipeline。请查看超级类文档,了解库为所有流水线实现的标准方法(如下载或保存、在特定设备上运行等)。

流水线还继承了以下加载方法

__call__

< >

( prompt: Union = None prompt_2: Union = None height: Optional = None width: Optional = None num_inference_steps: int = 50 timesteps: List = None sigmas: List = None denoising_end: Optional = None guidance_scale: float = 5.0 negative_prompt: Union = None negative_prompt_2: Union = None num_images_per_prompt: Optional = 1 eta: float = 0.0 generator: Union = None latents: Optional = None prompt_embeds: Optional = None negative_prompt_embeds: Optional = None pooled_prompt_embeds: Optional = None negative_pooled_prompt_embeds: Optional = None ip_adapter_image: Union = None ip_adapter_image_embeds: Optional = None output_type: Optional = 'pil' return_dict: bool = True cross_attention_kwargs: Optional = None guidance_rescale: float = 0.0 original_size: Optional = None crops_coords_top_left: Tuple = (0, 0) target_size: Optional = None negative_original_size: Optional = None negative_crops_coords_top_left: Tuple = (0, 0) negative_target_size: Optional = None clip_skip: Optional = None callback_on_step_end: Optional = None callback_on_step_end_tensor_inputs: List = ['latents'] pag_scale: float = 3.0 pag_adaptive_scale: float = 0.0 ) ~pipelines.stable_diffusion_xl.StableDiffusionXLPipelineOutput or tuple

参数

  • prompt (strList[str]可选) - 指导图像生成的提示词。如果未定义,则需传递 prompt_embeds
  • prompt_2 (strList[str]可选) - 发送到 tokenizer_2text_encoder_2 的提示词。如果未定义,则两个文本编码器都使用 prompt
  • height (int可选,默认值 self.unet.config.sample_size * self.vae_scale_factor) - 生成图像的像素高度。默认设置为1024,以获得最佳效果。512像素以下对于 stabilityai/stable-diffusion-xl-base-1.0 及未专门针对低分辨率进行微调的检查点来说效果不佳。
  • width (int, 可选,默认为 self.unet.config.sample_size * self.vae_scale_factor) — 生成图像的像素宽度。默认设置为1024以获得最佳效果。小于512像素的宽度无法在 stabilityai/stable-diffusion-xl-base-1.0 和未针对低分辨率进行微调的检查点中获得良好的效果。
  • num_inference_steps (int, 可选,默认为50) — 消噪步数。更多的消噪步骤通常会换来更高质量的图像,但会影响推理速度。
  • timesteps (List[int], 可选) — 自定义用于具有支持在其 set_timesteps 方法中接受 timesteps 参数的调度器的消噪过程的步长。如果没有定义,当传入了 num_inference_steps 时将使用默认行为。必须按降序排列。
  • sigmas (列表[浮点数], 可选) — 自定义 sigmas 用于与支持在 set_timesteps 方法中带有 sigmas 参数的调度器进行去噪过程。如未定义,当传递 num_inference_steps 时将使用默认行为。
  • denoising_end (浮点数, 可选) — 指定时要确定在它被有意提前终止之前完成去噪过程的全部百分之一(介于 0.0 和 1.0 之间)。因此,返回的样本将保留大量由调度器选择的离散时间步确定的噪声。应在“混合去噪器”多管道设置(如Refining the Image Output中详细说明)中利用此参数。
  • guidance_scale (浮点数, 可选,默认为 5.0) — 的分类器 无差指导中定义的指导缩放因数。指导比例定义为 imagen 论文中方程 2 的 w。当 guidance_scale > 1 时启用指导比例。较高的指导比例鼓励生成与文本 prompt 紧密相关的图像,通常以图像质量降低为代价。
  • negative_prompt (strList[str]) — 不指导图像生成的提示或提示列表。如果没有定义,则需要传递 negative_prompt_embeds。在不使用指导的情况下被忽略(即,如果 guidance_scale 小于 1,则被忽略)。
  • negative_prompt_2 (strList[str]) — 不指导图像生成的提示或提示列表,将被发送到 tokenizer_2text_encoder_2。如果没有定义,则使用 negative_prompt 在两个文本编码器中
  • num_images_per_prompt (int,默认为1) — 每个提示生成的图像数量。
  • eta (float, 可选, 默认为 0.0) — 与 DDIM 文档中的参数 eta (η) 对应:[https://arxiv.org/abs/2010.02502](https://arxiv.org/abs/2010.02502)。仅适用于 schedulers.DDIMScheduler,其他情况将被忽略。
  • generator (torch.GeneratorList[torch.Generator], 可选) — 一个或多个 torch 生成器,用于生成确定性输出。
  • latents (torch.Tensor, 可选) — 预生成的噪声 latent,从高斯分布中采样,用作图像生成的输入。可用于使用不同的提示调整相同的生成。如果未提供,将通过提供的随机 generator 采样生成 latent 张量。
  • negative_pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的负面池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果不提供,将从输入参数negative_prompt生成池化的负提示嵌入。ip_adapter_image — (PipelineImageInput, 可选):与IP适配器一起工作的可选图像输入。
  • ip_adapter_image_embeds (List[torch.Tensor], 可选) — 为IP-Adapter预生成的图像嵌入。它应该是一个长度与IP适配器数量相同的列表。每个元素应该是一个形状为 (batch_size, num_images, emb_dim) 的张量。如果将 do_classifier_free_guidance 设置为 True,则应包含负图像嵌入。如果不提供,将根据输入参数 ip_adapter_image 计算嵌入。
  • output_type (str, 可选,默认为"pil") — 生成的图像的输出格式。选择PILPIL.Image.Imagenp.array
  • return_dict (bool, 可选, 默认为 True) — 是否返回 ~pipelines.stable_diffusion_xl.StableDiffusionXLPipelineOutput 实例而不是普通元组。
  • cross_attention_kwargs (dict, 可选) — 一个kwargs字典,如果指定,则传递给在 diffusers.models.attention_processor 中定义的 AttentionProcessor
  • guidance_rescale (float, 可选, 默认为 0.0) — 根据Common Diffusion Noise Schedules and Sample Steps are Flawed提出的导引重缩放因子,其中Common Diffusion Noise Schedules and Sample Steps are Flawed中的方程16定义的指导缩放因子为φ。指导缩放因子用于纠正使用零终端SNR时的过度曝光问题。
  • original_sizeTuple[int],可选,默认为(1024,1024))—— 如果original_sizetarget_size不同,则图像看起来会进行下采样或上采样。在未指定的情况下,默认为(height, width)。这是SDXL微条件的一部分,如第2.2节所述
  • crops_coords_top_leftTuple[int],可选,默认为(0,0))—— 使用crops_coords_top_left可以使图像看起来是从位置crops_coords_top_left向下裁剪的。通过将crops_coords_top_left设置为(0,0)通常可以获得位置良好的图像。这是SDXL微条件的一部分,如第2.2节所述
  • target_sizeTuple[int],可选,默认为(1024,1024))—— 对于大多数情况,应将target_size设置为目标图像的高度和宽度。如果未指定,它将默认为(height, width)。这是SDXL微条件的一部分,如第2.2节所述
  • negative_original_size (Tuple[int], 可选, 默认为 (1024, 1024)) — 根据特定图像分辨率对生成过程进行负条件化。SDXL微条件化的部分,如第2.2节所述https://huggingface.co/papers/2307.01952。更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • negative_crops_coords_top_left (Tuple[int], 可选, 默认为 (0, 0)) — 根据特定的裁剪坐标来对生成过程进行负条件化。它作为SDXL微条件化的部分,如第2.2节所述https://huggingface.co/papers/2307.01952。更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • negative_target_size (Tuple[int], 可选, 默认为 (1024, 1024)) — 根据目标图像分辨率对生成过程进行负条件化。在大多数情况下应与target_size相同。如第2.2节所述,它是SDXL微条件化的部分https://huggingface.co/papers/2307.01952。更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • callback_on_step_endCallable可选)— 在推理过程中每一步去噪步骤结束时会调用的函数。该函数以以下参数调用:callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict)callback_kwargs 将包含由 callback_on_step_end_tensor_inputs 指定的所有张量列表。
  • callback_on_step_end_tensor_inputsList可选)— callback_on_step_end 函数的 张量输入列表。列表中指定的张量将作为 callback_kwargs 参数传递。您只能包含在您的 pipeline 类的 ._callback_tensor_inputs 属性中列出的变量。
  • pag_scalefloat可选,默认值为 3.0)— 干扰注意力引导的缩放因子。如果设置为 0.0,则不使用干扰注意力引导。
  • pag_adaptive_scale (float, 可选,默认为 0.0) — 用于分割注意力引导的自适应缩放因子。如果设置为 0.0,则使用 pag_scale

返回值

~pipelines.stable_diffusion_xl.StableDiffusionXLPipelineOutputtuple

~pipelines.stable_diffusion_xl.StableDiffusionXLPipelineOutput 如果 return_dict 为 True,否则为 tuple。当返回 tuple 时,第一个元素是一个包含生成的图片的列表。

在调用生成管线时调用的函数。

示例

>>> import torch
>>> from diffusers import AutoPipelineForText2Image

>>> pipe = AutoPipelineForText2Image.from_pretrained(
...     "stabilityai/stable-diffusion-xl-base-1.0",
...     torch_dtype=torch.float16,
...     enable_pag=True,
... )
>>> pipe = pipe.to("cuda")

>>> prompt = "a photo of an astronaut riding a horse on mars"
>>> image = pipe(prompt, pag_scale=0.3).images[0]

encode_prompt

< >

( prompt: strprompt_2: 可选 = Nonedevice: 可选 = Nonenum_images_per_prompt: int = 1do_classifier_free_guidance: bool = Truenegative_prompt: 可选 = Nonenegative_prompt_2: 可选 = Noneprompt_embeds: 可选 = Nonenegative_prompt_embeds: 可选 = Nonepooled_prompt_embeds: 可选 = Nonenegative_pooled_prompt_embeds: 可选 = Nonelora_scale: 可选 = Noneclip_skip: 可选 = None )

参数

  • prompt (strList[str], 可选) — 待编码的提示
  • prompt_2 (strList[str]可选)—— 要发送到 tokenizer_2text_encoder_2 的提示或提示列表。如果未定义,则使用两个文本编码器设备 —— (torch.device):torch 设备
  • num_images_per_prompt (int)—— 每个提示应生成的图像数量
  • do_classifier_free_guidance (bool)—— 是否使用分类器无指导
  • negative_prompt(《字符串》或《字符串列表》可选)— 不用于指导图像生成的提示或提示列表。如果未定义,则需要传递 negative_prompt_embeds。当未使用引导时(即当 guidance_scale 小于 1 时)将被忽略。
  • negative_prompt_2(《字符串》或《字符串列表》,可选)— 不用于发送到 tokenizer_2text_encoder_2 的图像生成的提示或提示列表。如果未定义,将在两个文本编码器中使用 negative_prompt
  • prompt_embeds(《火炬张量》可选)— 预生成的文本嵌入。可以用它轻松调整文本输入,例如提示权重。如果不提供,将从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, 可选) — 预生成的负面文本嵌入。可用于轻松调整文本输入,例如提示权重。如果没有提供,negative_prompt_embeds将从negative_prompt输入参数生成。
  • pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果没有提供,将根据prompt输入参数生成池化文本嵌入。
  • negative_pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的负面池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果没有提供,将根据negative_prompt输入参数生成池化负面嵌入。
  • lora_scale (float, 可选) — 当加载LoRA层时,将对文本编码器中的所有LoRA层应用LoRA缩放。
  • clip_skip (int, 可选) — 在计算提示嵌入时跳过的CLIP层数量。值为1表示将使用预最终层的输出用于计算提示嵌入。

将提示编码到文本编码器的隐藏状态。

get_guidance_scale_embedding

< >

( w: Tensor embedding_dim: int = 512 dtype: dtype = torch.float32 ) torch.Tensor

参数

  • w (torch.Tensor) — 使用指定的指导缩放生成嵌入向量,随后用于丰富时间步嵌入。
  • embedding_dimint,可选,默认为512)— 要生成的嵌入维数。
  • dtypetorch.dtype,可选,默认为torch.float32)— 生成的嵌入的数据类型。

返回值

torch.Tensor

形状为 (len(w), embedding_dim) 的嵌入向量。

参见 https://github.com/google-research/vdm/blob/dc27b98a554f65cdc654b800da5aa1846545d41b/model_vdm.py#L298

StableDiffusionXLPAGImg2ImgPipeline

diffusers.StableDiffusionXLPAGImg2ImgPipeline

< >

( vae: AutoencoderKL text_encoder: CLIPTextModel text_encoder_2: CLIPTextModelWithProjection tokenizer: CLIPTokenizer tokenizer_2: CLIPTokenizer unet: UNet2DConditionModel scheduler: KarrasDiffusionSchedulers image_encoder: CLIPVisionModelWithProjection = None feature_extractor: CLIPImageProcessor = None requires_aesthetics_score: bool = False force_zeros_for_empty_prompt: bool = True add_watermarker: Optional = None pag_applied_layers: Union = 'mid' )

参数

  • vae (AutoencoderKL) — 可变自动编码器 (VAE) 模型,用于对图像进行编码和解码以生成潜在表示。
  • text_encoder (CLIPTextModel) — 冻结文本编码器。Stable Diffusion XL 使用 CLIP 的文本部分,具体是 CLIPclip-vit-large-patch14 变体。
  • text_encoder_2 ( CLIPTextModelWithProjection) — 第二个冻结文本编码器。Stable Diffusion XL 使用 CLIP 的文本和池部分,具体是 CLIPlaion/CLIP-ViT-bigG-14-laion2B-39B-b160k 变体。
  • tokenizer (CLIPTokenizer) — 类 CLIPTokenizer 的分词器。
  • tokenizer_2CLIPTokenizer) — 类 CLIPTokenizer 的第二个标记化器。
  • unetUNet2DConditionModel) — 用于降噪编码图像隐矢量的条件 U-Net 架构。
  • schedulerSchedulerMixin) — 与 unet 结合使用的调度器,用于降噪编码图像隐矢量。可以是 DDIMSchedulerLMSDiscreteSchedulerPNDMScheduler 之一。
  • requires_aesthetics_score (bool, 可选, 默认 "False") — 是否在推理期间 unet 模型需要通过 aesthetic_score 条件。有关 stabilityai/stable-diffusion-xl-refiner-1-0 的配置,也请查看。
  • force_zeros_for_empty_prompt (bool, 可选, 默认 "True") — 是否将负提示嵌入始终设置为 0。有关 stabilityai/stable-diffusion-xl-base-1-0 的配置,也请查看。
  • add_watermarker (bool, 可选) — 是否使用 看不见的水印库 来给输出图像打水印。如果没有定义,如果已安装此包,则默认为 True,否则不使用水印器。

使用 Stable Diffusion XL 的文本到图像生成管道。

此模型继承自 DiffusionPipeline。请查看超级类文档,了解库为所有流水线实现的标准方法(如下载或保存、在特定设备上运行等)。

流水线还继承了以下加载方法

__call__

< >

( prompt: Union = None prompt_2: Union = None image: Union = None strength: float = 0.3 num_inference_steps: int = 50 timesteps: List = None sigmas: List = None denoising_start: Optional = None denoising_end: Optional = None guidance_scale: float = 5.0 negative_prompt: Union = None negative_prompt_2: Union = None num_images_per_prompt: Optional = 1 eta: float = 0.0 generator: Union = None latents: Optional = None prompt_embeds: Optional = None negative_prompt_embeds: Optional = None pooled_prompt_embeds: Optional = None negative_pooled_prompt_embeds: Optional = None ip_adapter_image: Union = None ip_adapter_image_embeds: Optional = None output_type: Optional = 'pil' return_dict: bool = True cross_attention_kwargs: Optional = None guidance_rescale: float = 0.0 original_size: Tuple = None crops_coords_top_left: Tuple = (0, 0) target_size: Tuple = None negative_original_size: Optional = None negative_crops_coords_top_left: Tuple = (0, 0) negative_target_size: Optional = None aesthetic_score: float = 6.0 negative_aesthetic_score: float = 2.5 clip_skip: Optional = None callback_on_step_end: Union = None callback_on_step_end_tensor_inputs: List = ['latents'] pag_scale: float = 3.0 pag_adaptive_scale: float = 0.0 ) ~pipelines.stable_diffusion.StableDiffusionXLPipelineOutput or tuple

参数

  • 提示信息 (strList[str], 可选) — 指导图像生成的提示信息。如未定义,则必须传递 prompt_embeds
  • prompt_2 (strList[str], 可选) — 传输到 tokenizer_2text_encoder_2 的提示信息。如未定义,则使用 prompt 在两个文本编码器中。
  • image (torch.TensorPIL.Image.Imagenp.ndarrayList[torch.Tensor]List[PIL.Image.Image]List[np.ndarray]) — 使用管道修改的图像。
  • strength (float可选,默认为 0.3) — 从概念上讲,表示要转换参考image的程度。必须在 0 和 1 之间。如果 strength 值越大,则添加的噪声越多。image 将作为起始点,添加越多的噪声,噪声量越大。去噪步骤的数量取决于最初添加的噪声量。当 strength 为 1 时,添加的噪声将达到最大,去噪过程将运行 num_inference_steps 中指定的完整迭代次数。因此,1 的值实际上忽略了 image。注意,如果将 denoising_start 声明为整数,则忽略 strength 的值。
  • num_inference_steps (int可选,默认为 50) — 去噪步骤的数量。更多的去噪步骤通常会使图像质量更高,但会牺牲推断速度。
  • 时间步长 (列表[int], 可选) — 使用支持在set_timesteps方法中传入timesteps参数的调度器的去噪过程中的自定义时间步长。如果没有定义,将使用传递num_inference_steps时的默认行为。必须按降序排列。
  • sigma值 (列表[float], 可选) — 使用支持在set_timesteps方法中传入sigmas参数的调度器的去噪过程中的自定义sigma值。如果没有定义,将使用传递num_inference_steps时的默认行为。
  • 去噪开始 (float, 可选) — 当指定时,表示在开始之前要绕过的总去噪过程的分数(介于0.0和1.0之间)。因此,跳过去噪过程的初始部分,并假定传递的image是部分去噪的图像。注意,当指定后,将忽略强度。The denoising_start参数特别有益于将此管道集成到“混合去噪器”多管道设置中,这在第增强图像质量部分中详细说明。
  • denoising_end浮点数可选)— 当指定时,确定在有意提前终止前,整个去噪过程的完成比例(介于 0.0 和 1.0 之间)。因此,返回的样本仍然保留相当数量的噪声(约需要最终的 20% 的时间步长),应该由一个设置 denoising_start 为 0.8 的后续流水线进行去噪,以便只去噪调度器的最后 20%。应当在此流水线作为“去噪器混合”的多流水线设置的组成部分时使用 denoising_end 参数,详细说明请参见 refining image quality
  • guidance_scale浮点数可选,默认为 7.5)— 在 Classifier-Free Diffusion Guidance 中定义的引导尺度。 guidance_scale 定义为 Imagen 论文 公式 2 中的 w。引导尺度通过设置 guidance_scale > 1 启用。更高的引导尺度鼓励生成与文本代码 prompt 密切相关的图像,通常以牺牲图像质量为代价。
  • negative_prompt (strList[str], 选择性) — 不引导图像生成的提示或提示列表。如未定义,则需要传递 negative_prompt_embeds。当未使用引导(即当 guidance_scale 小于 1)时会被忽略。
  • negative_prompt_2 (strList[str], 选择性) — 不引导图像生成的提示或提示列表,发送至 tokenizer_2text_encoder_2。如未定义,则在两个文本编码器中使用 negative_prompt
  • num_images_per_prompt (int, 选择性,默认为 1) — 每个提示生成图像的数量。
  • eta (float, 可选, 默认为 0.0) — 对应于 DDIM 论文中参数 eta (η):https://arxiv.org/abs/2010.02502。仅适用于 schedulers.DDIMScheduler,其他情况将被忽略。
  • generator (torch.GeneratorList[torch.Generator], 可选) — 一个或多个 torch 生成器,用于使生成结果可预测。
  • latents (torch.Tensor, 可选) — 预生成的噪声潜变量,样本来自高斯分布,用作图像生成的输入。可用于用不同的提示调整相同的生成。如果不提供,将使用提供的随机 generator 生成一个潜变量张量。
  • prompt_embeds (torch.Tensor可选)— 预生成的文本嵌入。可用于轻松调整文本输入,例如提示权重。如果没有提供,文本嵌入将根据prompt输入参数生成。
  • negative_prompt_embeds (torch.Tensor可选)— 预生成的负文本嵌入。可用于轻松调整文本输入,例如提示权重。如果没有提供,将根据negative_prompt输入参数生成负文本嵌入。
  • pooled_prompt_embeds (torch.Tensor可选)— 预生成的池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果没有提供,将根据prompt输入参数生成池化文本嵌入。
  • negative_pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的负池化文本嵌入。可以用来轻松调整文本输入,例如提示权重。如果未提供,将从输入参数 negative_prompt 生成池化负嵌入。ip_adapter_image — (PipelineImageInput, 可选):与 IP 适配器一起工作的可选图像输入。
  • ip_adapter_image_embeds (List[torch.Tensor], 可选) — 为 IP-适配器预生成的图像嵌入。它应该是一个数量与 IP-适配器数量相同的列表。每个元素应该是一个形状为 (batch_size, num_images, emb_dim) 的张量。它应该包含 do_classifier_free_guidance 设置为 True 时使用的负图像嵌入。如果未提供,嵌入将从输入参数 ip_adapter_image 计算得出。
  • output_type (str, 可选,默认为 "pil") — 生成图像的输出格式。从 PIL: PIL.Image.Imagenp.array 中选择。
  • return_dict (bool, 可选, 默认为 True) — 是否返回 ~pipelines.stable_diffusion.StableDiffusionXLPipelineOutput 对象而不是普通元组。
  • cross_attention_kwargs (dict, 可选) — 一个字典,如果指定,将被传递到 AttentionProcessor,如定义在 diffusers.models.attention_processorself.processor
  • guidance_rescale (float, 可选, 默认为 0.0) — 由Common Diffusion Noise Schedules and Sample Steps are Flawed 提出的 Guidance rescale 因子,在 Common Diffusion Noise Schedules and Sample Steps are Flawed 公式中定义的 guidance_scale 是16方程中的φ。Guidance rescale因子可以解决使用零端点SNR时的过度曝光问题。
  • original_size (元组[int]可选,默认为(1024, 1024)) — 如果original_sizetarget_size不同,则图像看起来会被下采样或上采样。《original_size》未指定时默认为(高度, 宽度)。是SDXL微条件的一部分,如第2.2节所述https://huggingface.co/papers/2307.01952
  • crops_coords_top_left (元组[int]可选,默认为(0, 0)) — 可以使用crops_coords_top_left生成从crops_coords_top_left位置向下裁剪的图像。将crops_coords_top_left设置为(0, 0),通常可以获得中心位置良好的图像。是SDXL微条件的一部分,如第2.2节所述https://huggingface.co/papers/2307.01952
  • target_size (元组[int]可选,默认为(1024, 1024)) — 对于大多数情况,将target_size设置为期望的图像高度和宽度。如果未指定,它将默认为(高度, 宽度)。是SDXL微条件的一部分,如第2.2节所述https://huggingface.co/papers/2307.01952
  • aesthetic_score (float, 可选, 默认为6.0) — 用于通过影响正面文本条件来模拟生成图像的美学评分。是SDXL的微条件化的一部分,如2.2节所述的https://huggingface.co/papers/2307.01952
  • negative_aesthetic_score (float, 可选, 默认为2.5) — 是SDXL的微条件化的一部分,如2.2节所述的https://huggingface.co/papers/2307.01952。可用于通过影响负面文本条件来模拟生成图像的美学评分。
  • clip_skip (int, 可选) — 跳过CLIP计算提示嵌入时的层数。值为1表示将使用预最终层的输出进行提示嵌入的计算。
  • callback_on_step_endCallablePipelineCallbackMultiPipelineCallbacks可选)—在每个推理中降噪步骤结束时被调用的函数或PipelineCallbackMultiPipelineCallbacks的子类。带有以下参数:callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict)callback_kwargs将包括由callback_on_step_end_tensor_inputs指定的所有张量的列表。
  • callback_on_step_end_tensor_inputsList可选)—为callback_on_step_end函数指定的张量输入列表。列表中指定的张量将以callback_kwargs参数传递。您只能包含位于您的管道类._callback_tensor_inputs属性中列出的变量。
  • pag_scalefloat可选,默认为3.0)—扰动注意力引导的缩放因子。如果设置为0.0,则不使用扰动注意力引导。
  • pag_adaptive_scale (float, 可选, 默认为0.0) — 用于扰动注意力引导的自适应缩放因子。如果设置为0.0,则使用pag_scale

返回值

~pipelines.stable_diffusion.StableDiffusionXLPipelineOutputtuple

~pipelines.stable_diffusion.StableDiffusionXLPipelineOutput如果return_dict为True,否则为`tuple`。当返回`tuple`时,第一个元素是一个包含生成图像的列表。

在调用生成管线时调用的函数。

示例

>>> import torch
>>> from diffusers import AutoPipelineForImage2Image
>>> from diffusers.utils import load_image

>>> pipe = AutoPipelineForImage2Image.from_pretrained(
...     "stabilityai/stable-diffusion-xl-refiner-1.0",
...     torch_dtype=torch.float16,
...     enable_pag=True,
... )
>>> pipe = pipe.to("cuda")
>>> url = "https://huggingface.co/datasets/patrickvonplaten/images/resolve/main/aa_xl/000000009.png"

>>> init_image = load_image(url).convert("RGB")
>>> prompt = "a photo of an astronaut riding a horse on mars"
>>> image = pipe(prompt, image=init_image, pag_scale=0.3).images[0]

encode_prompt

< >

( prompt: strprompt_2: 可选 = Nonedevice: 可选 = Nonenum_images_per_prompt: int = 1do_classifier_free_guidance: bool = Truenegative_prompt: 可选 = Nonenegative_prompt_2: 可选 = Noneprompt_embeds: 可选 = Nonenegative_prompt_embeds: 可选 = Nonepooled_prompt_embeds: 可选 = Nonenegative_pooled_prompt_embeds: 可选 = Nonelora_scale: 可选 = Noneclip_skip: 可选 = None )

参数

  • prompt (strList[str], 可选) — 要编码的提示
  • prompt_2 (strList[str]可选)— 要发送到 tokenizer_2text_encoder_2 的提示或提示列表。如果未定义,将使用两个文本编码器的设备 — (torch.device):torch 设备
  • num_images_per_prompt (int) — 每个提示应生成的图像数量
  • do_classifier_free_guidance (bool)— 是否使用分类器自由引导
  • negative_prompt (strList[str]可选) — 不用于引导图像生成的提示或提示列表。如果没有定义,则必须传递 negative_prompt_embeds。在不使用引导(即当 guidance_scale 小于 1 时)的情况下将忽略。
  • negative_prompt_2 (strList[str]可选) — 将不用于引导图像生成的提示或提示列表发送到 tokenizer_2text_encoder_2。如果没有定义,则两个文本编码器将都使用 negative_prompt
  • prompt_embeds (torch.Tensor可选) — 预生成的文本嵌入。可用于轻松调整文本输入,例如提示权重。如果没有提供,则将从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, 可选) — 预生成的负文本嵌入。可用于轻松调整文本输入,例如提示权重。如未提供,将根据 negative_prompt 输入参数生成 negative_prompt_embeds。
  • pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的文本池化嵌入。可用于轻松调整文本输入,例如提示权重。如未提供,将根据 prompt 输入参数生成文本嵌入。
  • negative_pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的负文本池化嵌入。可用于轻松调整文本输入,例如提示权重。如未提供,将根据 negative_prompt 输入参数生成负文本嵌入。
  • lora_scale (float, 可选) — 当加载LoRA层时,将应用于文本编码器的所有LoRA层的LoRA缩放比例。
  • clip_skip (int, 可选) — 在计算提示嵌入时跳过的CLIP层的数量。1的值表示将使用预最终层的输出计算提示嵌入。

将提示编码到文本编码器的隐藏状态。

get_guidance_scale_embedding

< >

( w: Tensor embedding_dim: int = 512 dtype: dtype = torch.float32 ) torch.Tensor

参数

  • w (torch.Tensor) — 根据指定的指导缩放比例生成嵌入向量,以随后丰富时间步嵌入。
  • embedding_dim (整数,可选,默认值512) — 生成嵌入的维度。
  • dtype (torch.dtype,可选,默认值torch.float32) — 生成嵌入的数据类型。

返回值

torch.Tensor

形状为 (len(w), embedding_dim) 的嵌入向量。

参见 https://github.com/google-research/vdm/blob/dc27b98a554f65cdc654b800da5aa1846545d41b/model_vdm.py#L298

StableDiffusionXLPAGInpaintPipeline

diffusers.StableDiffusionXLPAGInpaintPipeline

< >

( vae: AutoencoderKL text_encoder: CLIPTextModel text_encoder_2: CLIPTextModelWithProjection tokenizer: CLIPTokenizer tokenizer_2: CLIPTokenizer unet: UNet2DConditionModel scheduler: KarrasDiffusionSchedulers image_encoder: CLIPVisionModelWithProjection = None feature_extractor: CLIPImageProcessor = None requires_aesthetics_score: bool = False force_zeros_for_empty_prompt: bool = True add_watermarker: Optional = None pag_applied_layers: Union = 'mid' )

参数

  • vae (AutoencoderKL) — 用于编码和解码图像及其潜在表示的变分自编码器(VAE)模型。
  • text_encoder (CLIPTextModel) — 冻结的文本编码器。Stable Diffusion XL 使用 CLIP 的文本部分,具体是 clip-vit-large-patch14 变体。
  • text_encoder_2 (CLIPTextModelWithProjection) — 第二个冻结文本编码器。Stable Diffusion XL 使用 CLIP 的文本和池部分,具体是 laion/CLIP-ViT-bigG-14-laion2B-39B-b160k 变体。
  • tokenizer (CLIPTokenizer) — 字符串器,属于CLIPTokenizer类。
  • tokenizer_2 (CLIPTokenizer) — 第二个字符串器,属于CLIPTokenizer类。
  • unet (UNet2DConditionModel) — 条件U-Net架构,用于去噪编码图像的潜变量。
  • scheduler (调度器) — 用来与 unet 结合以去噪编码图像潜伏量。可以是以下之一: DDIM调度器LMS离散调度器PNDM调度器
  • requires_aesthetics_score (bool, 可选, 默认为 "False") — 是否需要在推理过程中将美学评分传递给 unet。也请参考 stabilityai/stable-diffusion-xl-refiner-1-0 的配置。
  • force_zeros_for_empty_prompt (bool, 可选, 默认为 "True") — 是否将负提示嵌入始终设置为 0。也请参考 stabilityai/stable-diffusion-xl-base-1-0 的配置。
  • add_watermarker (bool, 可选) — 是否使用 无痕水印库 对输出图片添加水印。如未定义,当库安装时默认为 True,否则不使用水印。

使用 Stable Diffusion XL 的文本到图像生成管道。

此模型继承自 DiffusionPipeline。请查看超级类文档,了解库为所有流水线实现的标准方法(如下载或保存、在特定设备上运行等)。

流水线还继承了以下加载方法

__call__

< >

( prompt: Union = None prompt_2: Union = None image: Union = None mask_image: Union = None masked_image_latents: Tensor = None height: Optional = None width: Optional = None padding_mask_crop: Optional = None strength: float = 0.9999 num_inference_steps: int = 50 timesteps: List = None sigmas: List = None denoising_start: Optional = None denoising_end: Optional = None guidance_scale: float = 7.5 negative_prompt: Union = None negative_prompt_2: Union = None num_images_per_prompt: Optional = 1 eta: float = 0.0 generator: Union = None latents: Optional = None prompt_embeds: Optional = None negative_prompt_embeds: Optional = None pooled_prompt_embeds: Optional = None negative_pooled_prompt_embeds: Optional = None ip_adapter_image: Union = None ip_adapter_image_embeds: Optional = None output_type: Optional = 'pil' return_dict: bool = True cross_attention_kwargs: Optional = None guidance_rescale: float = 0.0 original_size: Tuple = None crops_coords_top_left: Tuple = (0, 0) target_size: Tuple = None negative_original_size: Optional = None negative_crops_coords_top_left: Tuple = (0, 0) negative_target_size: Optional = None aesthetic_score: float = 6.0 negative_aesthetic_score: float = 2.5 clip_skip: Optional = None callback_on_step_end: Union = None callback_on_step_end_tensor_inputs: List = ['latents'] pag_scale: float = 3.0 pag_adaptive_scale: float = 0.0 ) ~pipelines.stable_diffusion.StableDiffusionXLPipelineOutput or tuple

参数

  • prompt (strList[str], 可选) — 引导图像生成的提示或提示列表。如果未定义,需要传递 prompt_embeds
  • prompt_2 (strList[str]可选) — 需要发送到 tokenizer_2text_encoder_2 的提示或提示列表。如未定义,则在两种文本编码器中使用 prompt
  • image (PIL.Image.Image) — Image 或表示图像批次的张量,将进行修复。即,图像的部分将被 mask_image 遮盖,并根据 prompt 进行重绘。
  • mask_image (PIL.Image.Image) — Image 或表示图像批次的张量,用于遮盖 image。遮罩中的白色像素将被重绘,而黑色像素将被保留。如果 mask_image 是 PIL 图像,则在使用之前将转换为单通道(亮度)。如果是张量,则应包含一个通道(L),而不是 3 个通道,因此预期的形状应为 (B, H, W, 1)
  • heightint可选,默认为 self.unet.config.sample_size * self.vae_scale_factor) — 生成的图像的像素高度。默认设置为1024以获得最佳效果。低于512像素的宽度在 stabilityai/stable-diffusion-xl-base-1.0 和未针对低分辨率特别微调的检查点中表现不佳。
  • widthint可选,默认为 self.unet.config.sample_size * self.vae_scale_factor) — 生成的图像的像素宽度。默认设置为1024以获得最佳效果。低于512像素的宽度在 stabilityai/stable-diffusion-xl-base-1.0 和未针对低分辨率特别微调的检查点中表现不佳。
  • padding_mask_cropint可选,默认为 None) — 应用到图像和蒙版图像的裁剪边界的尺寸。如果为 None,则不对图像和蒙版图像应用裁剪。如果 padding_mask_crop 不是 None,则首先找到一个具有与图像相同宽高比的区域,并包含所有已蒙版区域,然后基于 padding_mask_crop 扩大该区域。然后根据扩展的区域裁剪图像和蒙版图像,并在插入前将其调整到原始图像大小。这在蒙版区域较小而图像较大且包含插入不相关信息(如背景)时非常有用。
  • strengthfloat可选,默认为 0.9999) — 概念上表示将变换所选部分时对参考层的程度。必须在 0 和 1 之间。将以 image 作为起点,strength 越大,添加的噪声越多。《image》将用作起点,并随着 strength 的增大而加入更多噪声。去噪步骤的数量取决于最初添加的噪声量。当 strength 为 1 时,添加的噪声将最大,去噪过程将运行到 num_inference_steps 中指定的完整迭代次数。因此,1 的值本质上忽略了标记部分的参考 image。请注意,在将 denoising_start 声明为整数时,将忽略 strength 的值。
  • num_inference_stepsint可选,默认为50)——降噪步骤的数量。更多的降噪步骤通常会导致图像质量更高,但推理速度会变慢。
  • timestepsList[int]可选)——用于具有set_timesteps方法的timesteps参数调度器的降噪过程的自定义时间步。如果没有定义,当传递num_inference_steps时将使用默认行为。必须按降序排列。
  • sigmasList[float]可选)——用于支持其set_timesteps方法中的sigmas参数的调度器的降噪过程的自定义sigma。如果没有定义,当传递num_inference_steps时将使用默认行为。
  • denoising_startfloat可选)— 当指定时,表示在启动之前要绕过的总去噪过程的分数(介于0.0和1.0之间)。因此,将跳过去噪过程的初始部分,并假设传递的image是部分去噪图像。请注意,当指定此值时,将忽略强度。当这个管道集成到“去噪器混合”多管道设置中时,denoising_start参数尤其有益,如完善图像输出中所述。
  • denoising_endfloat可选)— 当指定时,确定在故意提前终止之前应完成的总去噪过程的分数(介于0.0和1.0之间)。因此,返回的样本将仍然保留大量噪声(约最终20%的时间步长仍需),应由设置为denoising_start为0.8的后续管道去噪,以仅去噪调度器的最后20%。当此管道作为“去噪器混合”多管道设置的组成部分时,应理想地使用denoising_end参数,如完善图像输出中所述。
  • guidance_scale (float可选,默认值为7.5) — 在 无分类器的扩散引导 中定义的引导尺度。guidance_scale 定义为 Imagen 论文 公式 2 中的 w。引导尺度通过设置 guidance_scale > 1 启用。更高的引导尺度会鼓励生成与文本 prompt紧紧相连的图像,通常会以降低图像质量为代价。
  • negative_prompt (strList[str]可选) — 不用于引导图像生成的提示或提示词。如果未定义,则必须传递 negative_prompt_embeds。当不使用引导时(即当 guidance_scale 小于 1 时)将被忽略。
  • negative_prompt_2 (strList[str]可选) — 不用于引导图像生成的提示或提示词,将发送到 tokenizer_2text_encoder_2。如果未定义,则使用 negative_prompt 用于两个文本编码器。
  • prompt_embeds (torch.Tensor可选)——预先生成的文本嵌入。可用于轻松调整文本输入,例如提示权重。如果不提供,将根据prompt输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor可选)——预先生成的负文本嵌入。可用于轻松调整文本输入,例如提示权重。如果不提供,将根据negative_prompt输入参数生成负文本嵌入。
  • pooled_prompt_embeds (torch.Tensor可选)——预先生成的池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果不提供,将根据prompt输入参数生成池化文本嵌入。
  • negative_pooled_prompt_embeds (torch.Tensor, optional) — 预生成的负池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果未提供,将从输入参数 negative_prompt 生成池化的负提示嵌入。ip_adapter_image — (PipelineImageInput, optional):可选的图像输入,用于与 IP 适配器一起使用。
  • ip_adapter_image_embeds (List[torch.Tensor], optional) —为 IP-适配器预先生成的图像嵌入。它应该是一个长度与 IP-适配器数量相同的列表。每个元素应该是一个形状为 (batch_size, num_images, emb_dim) 的张量。如果将 do_classifier_free_guidance 设置为 True,它应包含负图像嵌入。如果未提供,将从输入参数 ip_adapter_image 计算嵌入。
  • num_images_per_prompt (int, optional, defaults to 1) — 每个提示要生成的图像数量。
  • eta (float, 可选,默认为0.0) — 对应于DDIM论文中的参数eta(η):[链接](https://arxiv.org/abs/2010.02502)。仅在schedulers.DDIMScheduler中适用,其他将被忽略。
  • generator (torch.Generator, 可选) — 用来使生成过程确定性的一个或多个torch 生成器
  • latents (torch.Tensor, 可选) — 预先生成的噪声潜向量,从高斯分布中抽取,用作图像生成的输入。可用于使用不同的提示调整相同的生成。如果不提供,将使用提供的随机 generator 生成潜向量。
  • output_typestr可选,默认为 "pil")— 生成的图像的输出格式。选择 PILPIL.Image.Imagenp.array
  • return_dictbool可选,默认为 True)— 是否返回 StableDiffusionPipelineOutput 而不是普通元组。
  • cross_attention_kwargsdict可选)— 如果指定,则以字典的形式传递给定义在 self.processor 下的 AttentionProcessor,请参阅 diffusers.models.attention_processor
  • original_sizetuple[int],可选,默认为(1024, 1024)) - 如果original_sizetarget_size不同,则图像看起来会被下采样或上采样。如果没有指定,默认为(height, width)。属于SDXL的微条件,见第2.2节。[链接]
  • crops_coords_top_lefttuple[int],可选,默认为(0, 0)) - 使用crops_coords_top_left可以从crops_coords_top_left位置向下“裁剪”图像。通常通过将crops_coords_top_left设置为(0, 0)来获得居中且较好的图像。属于SDXL的微条件,见第2.2节。[链接]
  • target_sizetuple[int],可选,默认为(1024, 1024)) - 对于大多数情况,应将target_size设置为所需图像的高度和宽度。如果没有指定,将默认为(height, width)。属于SDXL的微条件,见第2.2节。[链接]
  • negative_original_size (元组[int]可选,默认为(1024, 1024)) — 基于特定图像分辨率对生成过程进行条件化。SDXL微条件化的一部分,如在第2.2节中所述 https://huggingface.co/papers/2307.01952。有关更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • negative_crops_coords_top_left (元组[int]可选,默认为(0, 0)) — 根据特定的裁剪坐标对生成过程进行条件化。SDXL微条件化的一部分,如在第2.2节中所述 https://huggingface.co/papers/2307.01952。有关更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • negative_target_size (Tuple[int], 可选, 默认为 (1024, 1024)) — 根据目标图像分辨率对生成过程进行负向条件化的参数。在大多数情况下应与 target_size 保持相同。SDXL的微条件部分,如第2.2节所述https://huggingface.co/papers/2307.01952。有关更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • aesthetic_score (float, 可选, 默认为 6.0) — 通过影响正文本条件来模拟生成的图像的美学分数。为SDXL的微条件部分,如第2.2节所述https://huggingface.co/papers/2307.01952
  • negative_aesthetic_score (float, 可选, 默认为 2.5) — 如第2.2节所述,作为SDXL的微条件部分。可用于通过影响负文本条件来模拟生成的图像的美学分数。
  • clip_skipint可选) — 在计算提示嵌入时跳过的 CLIP 层数数。值为1表示使用预最终层的输出计算提示嵌入。
  • callback_on_step_endCallablePipelineCallbackMultiPipelineCallbacks可选) — 在推理过程中每个去噪步骤结束时调用的函数,或PipelineCallbackMultiPipelineCallbacks的子类。具有以下参数:callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict)callback_kwargs将包括由callback_on_step_end_tensor_inputs指定的所有张量的列表。
  • callback_on_step_end_tensor_inputsList可选) — callback_on_step_end函数的张量输入列表。列表中指定的张量将作为callback_kwargs参数传递。只能包含您的管道类._callback_tensor_inputs属性中列出的变量。
  • pag_scalefloat可选,默认为3.0) — 对于扭曲的注意力引导的缩放因子。如果设置为0.0,则不会使用扭曲的注意力引导。
  • pag_adaptive_scalefloat可选,默认为0.0) — 对于扭曲的注意力引导的自适应缩放因子。如果设置为0.0,则使用 pag_scale

返回值

~pipelines.stable_diffusion.StableDiffusionXLPipelineOutputtuple

~pipelines.stable_diffusion.StableDiffusionXLPipelineOutput if return_dict is True, otherwise a tuple. 当返回一个元组时,第一个元素是包含生成的图像的列表。

在调用生成管线时调用的函数。

示例

>>> import torch
>>> from diffusers import AutoPipelineForInpainting
>>> from diffusers.utils import load_image

>>> pipe = AutoPipelineForInpainting.from_pretrained(
...     "stabilityai/stable-diffusion-xl-base-1.0",
...     torch_dtype=torch.float16,
...     variant="fp16",
...     enable_pag=True,
... )
>>> pipe.to("cuda")

>>> img_url = "https://raw.githubusercontent.com/CompVis/latent-diffusion/main/data/inpainting_examples/overture-creations-5sI6fQgYIuo.png"
>>> mask_url = "https://raw.githubusercontent.com/CompVis/latent-diffusion/main/data/inpainting_examples/overture-creations-5sI6fQgYIuo_mask.png"

>>> init_image = load_image(img_url).convert("RGB")
>>> mask_image = load_image(mask_url).convert("RGB")

>>> prompt = "A majestic tiger sitting on a bench"
>>> image = pipe(
...     prompt=prompt,
...     image=init_image,
...     mask_image=mask_image,
...     num_inference_steps=50,
...     strength=0.80,
...     pag_scale=0.3,
... ).images[0]

encode_prompt

< >

( prompt: strprompt_2: 可选 = Nonedevice: 可选 = Nonenum_images_per_prompt: int = 1do_classifier_free_guidance: bool = Truenegative_prompt: 可选 = Nonenegative_prompt_2: 可选 = Noneprompt_embeds: 可选 = Nonenegative_prompt_embeds: 可选 = Nonepooled_prompt_embeds: 可选 = Nonenegative_pooled_prompt_embeds: 可选 = Nonelora_scale: 可选 = Noneclip_skip: 可选 = None )

参数

  • prompt (strList[str],可选) — 待编码的提示
  • prompt_2 (strList[str],可选) — 发送到 tokenizer_2text_encoder_2 的提示或提示列表。如果未定义,则使用两个字段设备 —— (torch.device):torch 设备
  • num_images_per_prompt (int) — 每个提示应生成的图像数量
  • do_classifier_free_guidance (bool) — 是否使用无分类器引导
  • negative_prompt (strList[str],可选)— 不用于引导图像生成提示或提示列表。如果没有定义,则需要传递 negative_prompt_embeds。在使用引导(即当 guidance_scale 小于 1)时不予考虑。
  • negative_prompt_2 (strList[str],可选)— 不用于引导图像生成且将发送到 tokenizer_2text_encoder_2 的提示或提示列表。如果没有定义,则在两个文本编码器中同时使用 negative_prompt
  • prompt_embeds (torch.Tensor,可选)— 预生成的文本嵌入。可用于轻松调整文本输入,例如提示加权。如果未提供,则将从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embedstorch.Tensor可选)— 预生成负文本嵌入。可用于轻松调整文本输入,例如提示权重。如未提供,则从negative_prompt输入参数生成negative_prompt_embeds。
  • pooled_prompt_embedstorch.Tensor可选)— 预生成的池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如未提供,则从prompt输入参数生成池化文本嵌入。
  • negative_pooled_prompt_embedstorch.Tensor可选)— 预生成的负池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如未提供,则从negative_prompt输入参数生成负池化提示嵌入。
  • lora_scale (float, 可选) — 如果已加载LoRA层,则将应用于文本编码器中所有LoRA层的LoRA比例。
  • clip_skip (int, 可选) — 在计算提示嵌入时跳过的CLIP层的数量。值为1表示将使用预最终层的输出进行提示嵌入计算。

将提示编码到文本编码器的隐藏状态。

get_guidance_scale_embedding

< >

( w: Tensor embedding_dim: int = 512 dtype: dtype = torch.float32 ) torch.Tensor

参数

  • w (torch.Tensor) — 根据指定的指导比例生成嵌入向量,以便随后丰富时间步嵌入。
  • embedding_dim (int, 可选, 默认为 512) — 要生成的嵌入维度。
  • dtype (torch.dtype, 可选, 默认为 torch.float32) — 生成的嵌入的数据类型。

返回值

torch.Tensor

形状为 (len(w), embedding_dim) 的嵌入向量。

参见 https://github.com/google-research/vdm/blob/dc27b98a554f65cdc654b800da5aa1846545d41b/model_vdm.py#L298

StableDiffusionXLControlNetPAGPipeline

diffusers.StableDiffusionXLControlNetPAGPipeline

< >

( vae: AutoencoderKL text_encoder: CLIPTextModel text_encoder_2: CLIPTextModelWithProjection tokenizer: CLIPTokenizer tokenizer_2: CLIPTokenizer unet: UNet2DConditionModel controlnet: Union scheduler: KarrasDiffusionSchedulers force_zeros_for_empty_prompt: bool = True add_watermarker: Optional = None feature_extractor: CLIPImageProcessor = None image_encoder: CLIPVisionModelWithProjection = None pag_applied_layers: Union = 'mid' )

参数

  • vae (AutoencoderKL) — 变分自动编码器 (VAE) 模型,用于对图像进行编码和解码以用于潜在表示。
  • text_encoder (CLIPTextModel) — 冻结的文本编码器 (clip-vit-large-patch14)。
  • text_encoder_2 (CLIPTextModelWithProjection) — 第二个冻结的文本编码器 (laion/CLIP-ViT-bigG-14-laion2B-39B-b160k)。
  • tokenizer (CLIPTokenizer) — 用于文本分词的 CLIPTokenizer
  • tokenizer_2 (CLIPTokenizer) — 用于文本分词的 CLIPTokenizer
  • unet (UNet2DConditionModel) — 用于去除编码后的图像潜在变量的 UNet2DConditionModel
  • controlnet (ControlNetModelList[ControlNetModel]) — 在去噪过程中为 unet 提供额外的条件。如果您将多个 ControlNet 设置为列表,则将每个 ControlNet 的输出相加以创建一个组合的额外条件。
  • scheduler (SchedulerMixin) — 与 unet 结合使用的调度器,用于去噪编码的图像潜在空间。可以是 DDIMSchedulerLMSDiscreteSchedulerPNDMScheduler 之一。
  • force_zeros_for_empty_prompt (bool可选,默认为 "True")— 是否始终将阴性提示嵌入设为 0。也请参阅 stabilityai/stable-diffusion-xl-base-1-0 的配置。
  • add_watermarker (bool, 可选) — 是否使用 隐形水印 库為輸出圖像添加水印。如未定義,則默認為 True(如果已安裝包);否則不使用水印器。

使用 ControlNet 指導的 Stable Diffusion XL 的文本轉圖像生成流程。

此模型继承自 DiffusionPipeline。查看超类文档以获取为所有流水线实现的一般方法(下载、保存、在特定设备上运行等)。

流水线还继承了以下加载方法

__call__

< >

( prompt: Union = None prompt_2: Union = None image: Union = None height: Optional = None width: Optional = None num_inference_steps: int = 50 timesteps: List = None sigmas: List = None denoising_end: Optional = None guidance_scale: float = 5.0 negative_prompt: Union = None negative_prompt_2: Union = None num_images_per_prompt: Optional = 1 eta: float = 0.0 generator: Union = None latents: Optional = None prompt_embeds: Optional = None negative_prompt_embeds: Optional = None pooled_prompt_embeds: Optional = None negative_pooled_prompt_embeds: Optional = None ip_adapter_image: Union = None ip_adapter_image_embeds: Optional = None output_type: Optional = 'pil' return_dict: bool = True cross_attention_kwargs: Optional = None controlnet_conditioning_scale: Union = 1.0 control_guidance_start: Union = 0.0 control_guidance_end: Union = 1.0 original_size: Tuple = None crops_coords_top_left: Tuple = (0, 0) target_size: Tuple = None negative_original_size: Optional = None negative_crops_coords_top_left: Tuple = (0, 0) negative_target_size: Optional = None clip_skip: Optional = None callback_on_step_end: Union = None callback_on_step_end_tensor_inputs: List = ['latents'] pag_scale: float = 3.0 pag_adaptive_scale: float = 0.0 ) StableDiffusionPipelineOutput or tuple

参数

  • prompt (strList[str], 可选) — 引導圖像生成的提示或提示列表。如未定義,需要提供 prompt_embeds
  • prompt_2 (strList[str], 可选) — 将发送到 tokenizer_2text_encoder_2 的提示或提示列表。如果没有定义,则在两个文本编码器中使用 prompt
  • image (torch.Tensor, PIL.Image.Image, np.ndarray, List[torch.Tensor], List[PIL.Image.Image], List[np.ndarray], — List[List[torch.Tensor]], List[List[np.ndarray]]List[List[PIL.Image.Image]]): 为生成提供指导的控制网输入条件。如果类型指定为 torch.Tensor,则按原样传递给控制网。《PIL.Image.Image》也可以接受为图像。输出图像的维度默认与 image 维度相同。如果传递了高度和/或宽度,则相应调整 image 的大小。如果在 init 中指定了多个控制网,则必须以列表形式传递图像,以便列表的每个元素可以正确批量输入单个控制网。
  • height (int, 可选, 默认为 self.unet.config.sample_size * self.vae_scale_factor) — 生成图像的像素高度。小于 512 像素的内容对 stabilityai/stable-diffusion-xl-base-1.0 和未针对低分辨率进行特定微调的检查点不适用。
  • width (int, 可选, 默认为 self.unet.config.sample_size * self.vae_scale_factor) — 生成的图像的宽度(像素)。小于 512 像素的图像可能不适合 stabilityai/stable-diffusion-xl-base-1.0 以及未在低分辨率上专门微调的检查点。
  • num_inference_steps (int, 可选, 默认值为 50) — 去噪步骤的数量。更多的去噪步骤通常会导致图像质量更高,但推理速度会减慢。
  • timesteps (List[int], 可选) — 用于去噪过程的定制时间步。对于支持在 set_timesteps 方法中接收 timesteps 参数的调度器。如果未定义,则使用当 num_inference_steps 传递时的默认行为。必须按降序排列。
  • sigmas (float列表, 可选) — 用于具有支持在set_timesteps方法中包含sigmas参数的调度器的降噪过程的自定义sigmas。如果没有定义,在传递num_inference_steps时将使用默认行为。
  • denoising_end (float, 可选) — 当指定时,确定在有意提前终止之前将完成总降噪过程的分数(介于0.0和1.0之间)。因此,返回的样本将保留由调度器选择的离散时间步决定的相当数量的噪声。应在调整图像输出中详细说明的“降噪器混合”多管线设置中,理想情况下使用该参数。
  • guidance_scale (float, 可选, 默认5.0) — 较高的指导尺度值会鼓励模型生成与文本prompt密切相关的图像,以牺牲较低图像质量为代价。当guidance_scale > 1时启用指导尺度。
  • negative_promptstrList[str], 可选)—— 引导图像生成时不包括哪些内容的提示。如果未定义,则需要传递 negative_prompt_embeds。在使用指导(guidance_scale < 1)时被忽略。
  • negative_prompt_2strList[str], 可选)—— 引导图像生成时不包括哪些内容的提示。此提示发送到 tokenizer_2text_encoder_2。如果未定义,则在两个文本编码器中使用 negative_prompt
  • num_images_per_promptint, 可选,默认为 1)—— 每个提示生成图像的数量。
  • eta (float, 可选, 默认为0.0) — 与DDIM论文中的参数eta(η)对应。仅适用于DDIMScheduler,在其他调度器中将被忽略。
  • generator (torch.GeneratorList[torch.Generator], 可选) — 用于生成确定性结果的torch.Generator
  • latents (torch.Tensor, 可选) — 用于图像生成的预生成的噪声先验,从高斯分布中采样。可用于使用不同的提示调整相同的生成。如果未提供,则通过提供的随机generator生成先验张量。
  • prompt_embeds (torch.Tensor, 可选) — 预生成的文本嵌入。可以用来轻松调整文本输入(提示权重)。如果没有提供,则从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, 可选) — 预生成的负文本嵌入。可以用来轻松调整文本输入(提示权重)。如果没有提供,则从 negative_prompt 输入参数生成负文本嵌入。
  • pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的池化文本嵌入。可以用来轻松调整文本输入(提示权重)。如果没有提供,则从 prompt 输入参数生成池化文本嵌入。
  • negative_pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的负池化文本嵌入。可用于轻松调整文本输入(提示权重)。如果不提供,将从negative_prompt输入参数生成池化的negative_prompt_embeds。ip_adapter_image — (PipelineImageInput, 可选): 供与IP适配器一起使用图像输入。
  • ip_adapter_image_embeds (List[torch.Tensor], 可选) — 为IP-Adapter预生成的图像嵌入。它应该是一个长度与IP适配器数量相同的列表。每个元素应该是一个形状为(batch_size, num_images, emb_dim)的tensor。如果do_classifier_free_guidance设置为True,它应包含负图像嵌入。如果不提供,嵌入将从ip_adapter_image输入参数计算得出。
  • output_type (str, 可选, 默认为"pil") — 生成的图像的输出格式。在PIL.Imagenp.array之间选择。
  • control_guidance_start(《浮点数》或《浮点数列表》,可选,默认为 0.0)— ControlNet 开始应用的总步骤百分比的百分比。
  • control_guidance_end(《浮点数》或《浮点数列表》,可选,默认为 1.0)— ControlNet 停止应用的总步骤百分比的百分比。
  • original_size(《整数元组》,可选,默认为 (1024, 1024)) — 如果 original_sizetarget_size 不相同,则图像将看起来被下采样或上采样。《code>original_size 默认为 (height, width),如果不指定。SDXL 的微条件,如第 2.2 节所述。
  • cropped_coords_top_left (int元组, 可选, 默认为(0, 0)) — 可使用cropped_coords_top_left从位置cropped_coords_top_left向下生成像“裁剪”的图像。通常通过将cropped_coords_top_left设置为(0, 0)实现中心位置良好的图像。这是SDXL微条件的一部分,如同在https://huggingface.co/papers/2307.01952的第2.2节中所述。
  • target_size (元组[int], 可选, 默认为(1024, 1024)) — 对于大多数情况,应设置target_size为生成图像所需的宽度和高度。如果没有指定,则默认为(高度, 宽度)。这是SDXL微条件的一部分,如同在https://huggingface.co/papers/2307.01952的第2.2节中所述。
  • negative_original_size (元组[int], 可选, 默认为(1024, 1024)) — 根据特定图像分辨率对生成过程施加负条件。这是SDXL微条件的一部分,如同在https://huggingface.co/papers/2307.01952的第2.2节中所述。更多信息请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • negative_crops_coords_top_left (Tuple[int],可选,默认为(0, 0))—根据特定的裁剪坐标对生成过程进行负条件化。是SDXL的微条件化的一部分,如第2.2节所述 https://huggingface.co/papers/2307.01952。更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • negative_target_size (Tuple[int],可选,默认为(1024, 1024))—根据目标图像分辨率对生成过程进行负条件化。在大多数情况下应与target_size相同。是SDXL的微条件化的一部分,如第2.2节所述 https://huggingface.co/papers/2307.01952。更多信息,请参阅此问题线程:https://github.com/huggingface/diffusers/issues/4208
  • clip_skip (int,可选)—在计算提示嵌入时跳过的CLIP层次数。1表示使用预最终层的输出计算提示嵌入。
  • callback_on_step_endCallablePipelineCallbackMultiPipelineCallbacks可选) — 在推理过程中,在每个去噪步骤结束时调用的函数或PipelineCallbackMultiPipelineCallbacks的子类。具有以下参数:callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict)callback_kwargs将包含callback_on_step_end_tensor_inputs指定的所有张量列表。
  • callback_on_step_end_tensor_inputsList可选) — 用于callback_on_step_end函数的张量输入列表。列表中指定的张量将作为callback_kwargs参数传入。您只能包括您的管道类._callback_tensor_inputs属性中列出的变量。
  • pag_scalefloat可选,默认为3.0) — 扰动注意力指导的缩放因子。如果设置为0.0,则不会使用扰动注意力指导。
  • pag_adaptive_scale (float, 可选, 默认为0.0) — 扰动注意力指导的自适应缩放因子。如果设置为0.0,则使用pag_scale

返回值

StableDiffusionPipelineOutputtuple

如果return_dictTrue,则返回StableDiffusionPipelineOutput,否则返回包含输出图像的元组

称为 pipeline 的生成调用函数。

示例

>>> # !pip install opencv-python transformers accelerate
>>> from diffusers import AutoPipelineForText2Image, ControlNetModel, AutoencoderKL
>>> from diffusers.utils import load_image
>>> import numpy as np
>>> import torch

>>> import cv2
>>> from PIL import Image

>>> prompt = "aerial view, a futuristic research complex in a bright foggy jungle, hard lighting"
>>> negative_prompt = "low quality, bad quality, sketches"

>>> # download an image
>>> image = load_image(
...     "https://hf.co/datasets/hf-internal-testing/diffusers-images/resolve/main/sd_controlnet/hf-logo.png"
... )

>>> # initialize the models and pipeline
>>> controlnet_conditioning_scale = 0.5  # recommended for good generalization
>>> controlnet = ControlNetModel.from_pretrained(
...     "diffusers/controlnet-canny-sdxl-1.0", torch_dtype=torch.float16
... )
>>> vae = AutoencoderKL.from_pretrained("madebyollin/sdxl-vae-fp16-fix", torch_dtype=torch.float16)
>>> pipe = AutoPipelineForText2Image.from_pretrained(
...     "stabilityai/stable-diffusion-xl-base-1.0",
...     controlnet=controlnet,
...     vae=vae,
...     torch_dtype=torch.float16,
...     enable_pag=True,
... )
>>> pipe.enable_model_cpu_offload()

>>> # get canny image
>>> image = np.array(image)
>>> image = cv2.Canny(image, 100, 200)
>>> image = image[:, :, None]
>>> image = np.concatenate([image, image, image], axis=2)
>>> canny_image = Image.fromarray(image)

>>> # generate image
>>> image = pipe(
...     prompt, controlnet_conditioning_scale=controlnet_conditioning_scale, image=canny_image, pag_scale=0.3
... ).images[0]

encode_prompt

< >

( prompt: strprompt_2: 可选 = Nonedevice: 可选 = Nonenum_images_per_prompt: int = 1do_classifier_free_guidance: bool = Truenegative_prompt: 可选 = Nonenegative_prompt_2: 可选 = Noneprompt_embeds: 可选 = Nonenegative_prompt_embeds: 可选 = Nonepooled_prompt_embeds: 可选 = Nonenegative_pooled_prompt_embeds: 可选 = Nonelora_scale: 可选 = Noneclip_skip: 可选 = None )

参数

  • prompt (strList[str], 可选) — 待编码的提示
  • prompt_2 (strList[str]) —— 要发送给 tokenizer_2text_encoder_2 的提示或提示列表。若未定义,则使用两个文本编码器设备上的 prompt(torch.device):torch 设备
  • num_images_per_prompt (int) —— 每个提示应生成的图像数量
  • do_classifier_free_guidance (bool) —— 是否使用分类器自由指导
  • negative_prompt (strList[str],可选) — 不用于引导图像生成的提示或提示列表。如果没有定义,则需要传递 negative_prompt_embeds。当不使用引导(即当 guidance_scale 小于 1 时)时会被忽略。
  • negative_prompt_2 (strList[str],可选) — 不用于引导图像生成的提示或提示列表,发送到 tokenizer_2text_encoder_2。如果没有定义,则在两个文本编码器中使用 negative_prompt
  • prompt_embeds (torch.Tensor,可选) — 预生成的文本嵌入。可以用于轻松调整文本输入,例如提示权重。如果没有提供,则将从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embeds (torch.Tensor, 可选) — 预生成的负面文本嵌入。可用于轻松调整文本输入,例如提示权重。如果未提供,negative_prompt_embeds 将从 negative_prompt 输入参数生成。
  • pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果未提供,池化文本嵌入将根据 prompt 输入参数生成。
  • negative_pooled_prompt_embeds (torch.Tensor, 可选) — 预生成的负面池化文本嵌入。可用于轻松调整文本输入,例如提示权重。如果未提供,负面的negative_prompt_embeds 将根据 negative_prompt 输入参数生成。
  • lora_scale (浮点型,可选) — 如果加载了LoRA层,则应用于文本编码器所有LoRA层的LoRA比例。
  • clip_skip (整型,可选) — 在计算提示嵌入时跳过的CLIP层数。1表示将使用预最终层的输出计算提示嵌入。

将提示编码到文本编码器的隐藏状态。

get_guidance_scale_embedding

< >

( w: Tensor embedding_dim: int = 512 dtype: dtype = torch.float32 ) torch.Tensor

参数

  • w (torch.Tensor) — 使用指定的指导尺度生成嵌入向量,以丰富时间步嵌入。
  • embedding_dim (int, 可选,默认为512) — 要生成的嵌入向量的维度。
  • dtype (torch.dtype, 可选,默认为torch.float32) — 生成的嵌入的数据类型。

返回值

torch.Tensor

形状为 (len(w), embedding_dim) 的嵌入向量。

参见 https://github.com/google-research/vdm/blob/dc27b98a554f65cdc654b800da5aa1846545d41b/model_vdm.py#L298

StableDiffusion3PAGPipeline

diffusers.StableDiffusion3PAGPipeline

< >

( transformer: SD3Transformer2DModel scheduler: FlowMatchEulerDiscreteScheduler vae: AutoencoderKL text_encoder: CLIPTextModelWithProjection tokenizer: CLIPTokenizer text_encoder_2: CLIPTextModelWithProjection tokenizer_2: CLIPTokenizer text_encoder_3: T5EncoderModel tokenizer_3: T5TokenizerFast pag_applied_layers: Union = 'blocks.1' )

参数

  • transformer (SD3Transformer2DModel) — 条件变压器 (MMDiT) 架构,用于去噪编码后的图像潜在状态。
  • 调度器 (FlowMatchEulerDiscreteScheduler) — 与 transformer 结合使用以去噪编码图像潜变的调度器。
  • VAE (AutoencoderKL) — 变分自编码器(VAE)模型,用于对图像进行编码和解码到潜在的表示。
  • 文本编码器 (CLIPTextModelWithProjection) — CLIP,特别是 clip-vit-large-patch14 变体,增加了一个附加的投射层,该层使用对角矩阵初始化,其对角维数为 hidden_size
  • text_encoder_2 (CLIPTextModelWithProjection) — CLIP,特别是laion/CLIP-ViT-bigG-14-laion2B-39B-b160k变体。
  • text_encoder_3 (T5EncoderModel) — 冻结的文本编码器。Stable Diffusion 3 使用 T5,特别是t5-v1_1-xxl变体。
  • tokenizer (CLIPTokenizer) — 类CLIPTokenizer的标记器。
  • tokenizer_2CLIPTokenizer)—— 类 CLIPTokenizer 的第二个标记器。
  • tokenizer_3T5TokenizerFast)—— 类 T5Tokenizer 的标记器。

使用 Stable Diffusion 3 进行文本至图像生成的 PAG 管道。

__call__

< >

( prompt: Union = None prompt_2: Union = None prompt_3: Union = None height: Optional = None width: Optional = None num_inference_steps: int = 28 timesteps: List = None guidance_scale: float = 7.0 negative_prompt: Union = None negative_prompt_2: Union = None negative_prompt_3: Union = None num_images_per_prompt: Optional = 1 generator: Union = None latents: Optional = None prompt_embeds: Optional = None negative_prompt_embeds: Optional = None pooled_prompt_embeds: Optional = None negative_pooled_prompt_embeds: Optional = None output_type: Optional = 'pil' return_dict: bool = True joint_attention_kwargs: Optional = None clip_skip: Optional = None callback_on_step_end: Optional = None callback_on_step_end_tensor_inputs: List = ['latents'] max_sequence_length: int = 256 pag_scale: float = 3.0 pag_adaptive_scale: float = 0.0 ) ~pipelines.stable_diffusion_3.StableDiffusion3PipelineOutput or tuple

参数

  • prompt (strList[str]可选) — 引导图像生成的提示或提示列表。如未定义,请提供 prompt_embeds
  • prompt_2 (strList[str]可选) — 要发送到 tokenizer_2text_encoder_2 的提示或提示列表。如未定义,将使用 prompt
  • prompt_3 (strList[str]可选) — 要发送到 tokenizer_3text_encoder_3 的提示或提示列表。如未定义,将使用 prompt
  • heightint可选,默认为 self.unet.config.sample_size * self.vae_scale_factor)— 生成图像的像素高度。默认设置为1024像素以获得最佳效果。
  • widthint可选,默认为 self.unet.config.sample_size * self.vae_scale_factor)— 生成图像的像素宽度。默认设置为1024像素以获得最佳效果。
  • num_inference_stepsint可选,默认为 50)— 去噪步数。更多的去噪步骤通常会生成更高质量的照片,但会牺牲推理速度。
  • List[int]可选)—对于支持在 set_timesteps 方法中使用 timesteps 参数的调度器,用于去噪过程的自定义时间步。如果没有定义,当传递 num_inference_steps 时将使用默认行为。必须以降序排列。
  • guidance_scalefloat可选,默认为 7.0)—按照 Classifier-Free Diffusion Guidance 中定义的引导尺度。如 Imagen Paper 第 2 公式中的 w 定义。guidance_scale 启用通过设置 guidance_scale > 1。较高的引导尺度鼓励生成与文本 prompt 紧密相关的图像,这通常是以降低图像质量为代价的。
  • negative_promptstrList[str]可选)—不要用于图像生成的提示。如果没有定义,则需要传递 negative_prompt_embeds。当不使用引导时(即,如果 guidance_scale 小于 1)将被忽略。
  • negative_prompt_2 (strList[str]可选) — 不用于引导图像生成的提示信息,将发送到 tokenizer_2text_encoder_2。若未定义,则使用 negative_prompt
  • negative_prompt_3 (strList[str]可选) — 不用于引导图像生成的提示信息,将发送到 tokenizer_3text_encoder_3。若未定义,则使用 negative_prompt
  • num_images_per_prompt (int可选,默认1) — 每个提示信息生成的图像数量。
  • generator (torch.GeneratorList[torch.Generator]可选) — 一些生成器或生成器列表 torch generator(s) 以使生成确定。
  • latents (torch.FloatTensor可选) — 预生成长噪声的latents,从高斯分布中采样,用于图像生成。可用于使用不同提示调整相同的生成。如果没有提供,将使用所提供的随机 generator 采样生成latents张量。
  • prompt_embeds (torch.FloatTensor可选) — 预生成的文本嵌入。例如,用于轻松调整文本输入,提示权重。如果没有提供,将从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embeds (类型:torch.FloatTensor,可选) - 预生成的负文本嵌入。可用于轻松调整文本输入,如提示权重。如未提供,则从negative_prompt输入参数生成negative_prompt_embeds。
  • pooled_prompt_embeds (类型:torch.FloatTensor,可选) - 预生成的池化文本嵌入。可用于轻松调整文本输入,如提示权重。如未提供,则从prompt输入参数生成池化文本嵌入。
  • negative_pooled_prompt_embeds (类型:torch.FloatTensor,可选) - 预生成的负池化文本嵌入。可用于轻松调整文本输入,如提示权重。如未提供,则从negative_prompt输入参数生成池化的negative_prompt_embeds。
  • output_type (str, 可选, 默认为 "pil") — 生成的图像输出格式。选择以下一种:PIL: PIL.Image.Imagenp.array
  • return_dict (bool, 可选, 默认为 True) — 是否返回一个 ~pipelines.stable_diffusion_xl.StableDiffusionXLPipelineOutput 而不是一个普通的元组。
  • joint_attention_kwargs (dict, 可选) — 一个kwargs字典,如果指定,则传递到diffusers.models.attention_processor中的AttentionProcessor
  • callback_on_step_end(《可调用,可选)— 在推理过程中每个去噪步骤结束时代码被调用的函数。该函数使用以下参数调用:callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict)callback_kwargs将包括一个列表,其中包含根据callback_on_step_end_tensor_inputs指定的所有张量。
  • callback_on_step_end_tensor_inputs(《列表,可选)— callback_on_step_end函数的张量输入列表。列表中指定的张量将作为callback_kwargs参数传递。您只能包括管道类._callback_tensor_inputs属性中列出的变量。
  • max_sequence_length(《整数 默认为256)— 与prompt一起使用的最大序列长度。
  • pag_scalefloat,可选,默认为3.0) — 扰动的注意力引导的缩放因子。如果设置为0.0,则不会使用扰动的注意力引导。
  • pag_adaptive_scalefloat,可选,默认为0.0) — 扰动的注意力引导的自适应缩放因子。如果设置为0.0,则使用pag_scale

返回值

~pipelines.stable_diffusion_3.StableDiffusion3PipelineOutputtuple

~pipelines.stable_diffusion_3.StableDiffusion3PipelineOutput 如果 return_dict 是 True,否则是一个 tuple。当返回一个元组时,第一个元素是一个包含生成图像的列表。

在调用生成管线时调用的函数。

示例

>>> import torch
>>> from diffusers import AutoPipelineForText2Image

>>> pipe = AutoPipelineForText2Image.from_pretrained(
...     "stabilityai/stable-diffusion-3-medium-diffusers",
...     torch_dtype=torch.float16,
...     enable_pag=True,
...     pag_applied_layers=["blocks.13"],
... )
>>> pipe.to("cuda")
>>> prompt = "A cat holding a sign that says hello world"
>>> image = pipe(prompt, guidance_scale=5.0, pag_scale=0.7).images[0]
>>> image.save("sd3_pag.png")

encode_prompt

< >

( prompt: 联合 prompt_2: 联合 prompt_3: 联合 device: 可选 = None num_images_per_prompt: int = 1 do_classifier_free_guidance: bool = True negative_prompt: 联合 = None negative_prompt_2: 联合 = None negative_prompt_3: 联合 = None prompt_embeds: 可选 = None negative_prompt_embeds: 可选 = None pooled_prompt_embeds: 可选 = None negative_pooled_prompt_embeds: 可选 = None clip_skip: 可选 = None max_sequence_length: int = 256 lora_scale: 可选 = None )

参数

  • prompt (strList[str], 可选) — 要编码的提示
  • prompt_2 (strList[str],可选)—— 发送到 tokenizer_2text_encoder_2 的提示或提示列表。如果未定义,将使用所有文本编码器中的 prompt
  • prompt_3 (strList[str],可选)—— 发送到 tokenizer_3text_encoder_3 的提示或提示列表。如果未定义,将使用所有文本编码器中的 prompt device — (torch.device):torch 设备
  • num_images_per_prompt (int)—— 每个提示应生成的图像数量
  • do_classifier_free_guidance (bool)—— 是否使用分类器自由引导
  • negative_prompt (strList[str]可选) — 不引导图像生成的提示或提示列表。如果没有定义,则需要传递 negative_prompt_embeds。当不使用引导时(即,当 guidance_scale 小于 1 时)将被忽略。
  • negative_prompt_2 (strList[str]可选) — 不引导图像生成的提示或提示列表,将发送到 tokenizer_2text_encoder_2。如果没有定义,则在所有文本编码器中使用 negative_prompt
  • negative_prompt_2 (strList[str]可选) — 不引导图像生成的提示或提示列表,将发送到 tokenizer_3text_encoder_3。如果没有定义,则在两个文本编码器中使用 negative_prompt
  • prompt_embedstorch.FloatTensor可选)—预先生成的文本嵌入。可用于轻松调整文本输入,例如提示加权。如果没有提供,将从 prompt 输入参数生成文本嵌入。
  • negative_prompt_embedstorch.FloatTensor可选)—预先生成的负文本嵌入。可用于轻松调整文本输入,例如提示加权。如果没有提供,将从 negative_prompt 输入参数生成负文本嵌入。
  • pooled_prompt_embedstorch.FloatTensor可选)—预先生成的组合文本嵌入。可用于轻松调整文本输入,例如提示加权。如果没有提供,将从 prompt 输入参数生成组合文本嵌入。
  • negative_pooled_prompt_embedstorch.FloatTensor,可选)— 预生成的负池化文本嵌入。可用于轻松调整文本输入,例如使用提示加权。如果没有提供,将从 negative_prompt 输入参数生成池化负提示嵌入。
  • clip_skipint,可选)— 在计算提示嵌入时跳过 CLIP 的层数。1 表示使用预最终层的输出计算提示嵌入。
  • lora_scalefloat,可选)— 如果加载了 LoRA 层,则应用到此文本编码器的所有 LoRA 层的 LoRA 缩放。

PixArtSigmaPAGPipeline

diffusers.PixArtSigmaPAGPipeline

< >

( 分词器: T5Tokenizer 文本编码器: T5EncoderModel VAE: AutoencoderKL 转换器: PixArtTransformer2DModel 调度器: KarrasDiffusionSchedulers 应用的PAG层: Union = 'blocks.1' )

使用PixArt-Sigma的PAG流程 进行文本到图像生成。

__call__

< >

( 提示 : 联合体 = None 负提示 : 字符串 = '' 推理步骤数 : 整数 = 20 时间步长 : 列表 = None sigma值 : 列表 = None 引导比例 : 浮点数 = 4.5 每个提示的图像数量 : 可选 = 1 : 可选 = None : 可选 = None eta : 浮点数 = 0.0 生成器 : 联合体 = None 潜在变量 : 可选 = None 提示嵌入 : 可选 = None 提示注意力掩码 : 可选 = None 负提示嵌入 : 可选 = None 负提示注意力掩码 : 可选 = None 输出类型 : 可选 = 'pil' 返回字典 : 布尔值 = True 回调函数 : 可选 = None 回调步骤 : 整数 = 1 清理标题 : 布尔值 = True 使用分辨率分箱 : 布尔值 = True 最大序列长度 : 整数 = 300 PAG比例 : 浮点数 = 3.0 PAG自适应比例 : 浮点数 = 0.0 ) ImagePipelineOutput元组

参数

  • prompt (str or List[str], 可选) — 指导图像生成的提示或提示列表。如果没有定义,需要传递 prompt_embeds
  • negative_prompt (str or List[str], 可选) — 不用于指导图像生成的提示或提示列表。如果没有定义,需要传递 negative_prompt_embeds。在使用指导(即,如果 guidance_scale 小于 1)时将被忽略。
  • num_inference_steps (int, 可选,默认100) — 噪声消除步骤的数量。更多的噪声消除步骤通常会导致图像质量更高,但推理速度会减慢。
  • 时间步 (列表[int], 可选) — 用于有 set_timesteps 方法中的 timesteps 参数的支持的调度器的降噪过程的自定义时间步。如果没有定义,将使用 num_inference_steps 传递时默认行为。必须按降序排列。
  • sigmas (列表[float], 可选) — 用于调度器中的降噪过程的自定义 sigmas,这些调度器支持 set_timesteps 方法中的 sigmas 参数。如果没有定义,将使用 num_inference_steps 传递时默认行为。
  • 指导缩放 (float, 可选,默认为 4.5) — 根据 Classifier-Free Diffusion Guidance 定义的指导缩放。 guidance_scale 被定义为 Imagen 论文 公式 2 中的 w。指导缩放通过设置 guidance_scale > 1 启用。较高的指导缩放鼓励生成与文本 提示 紧密相关的图像,通常以牺牲较低的图像质量为代价。
  • num_images_per_promptint可选,默认为1)——每个提示生成图像的数量。
  • heightint可选,默认为self.unet.config.sample_size)——生成图像的高度(像素)。
  • widthint可选,默认为self.unet.config.sample_size)——生成图像的宽度(像素)。
  • eta (float, 可选, 默认为0.0) — 与DDIM论文中的eta(η)参数相对应:https://arxiv.org/abs/2010.02502。仅适用于schedulers.DDIMScheduler,对于其他情况将被忽略。
  • generator (torch.GeneratorList[torch.Generator]可选) — 用于生成确定性的torch generator(s)的一个或多个实例。
  • latents (torch.Tensor可选) — 预生成的噪声隐变量,从高斯分布中采样,用于图像生成。可用于使用不同的提示调整相同的生成。如果没有提供,将使用提供的随机generator采样生成一个隐变量张量。
  • prompt_embeds (torch.Tensor, optional) — 预生成的文本嵌入。可用于轻松调整文本输入,例如提示权重。如果不提供,将从 prompt 输入参数生成文本嵌入。
  • prompt_attention_mask (torch.Tensor, optional) — 为文本嵌入预生成的注意力掩码。
  • negative_prompt_embeds (torch.Tensor, optional) — 预生成的负文本嵌入。对于PixArt-Sigma,此负提示应为""。如果不提供,则将从 negative_prompt 输入参数生成负文本嵌入。
  • negative_prompt_attention_mask (torch.Tensor, optional) — 为负文本嵌入预生成的注意力掩码。
  • output_type (str, 可选,默认为 "pil") — 生成图像的输出格式。选择PILPIL.Image.Imagenp.array
  • return_dict (bool, 可选,默认为 True) — 是否返回一个普通的元组而不是~pipelines.stable_diffusion.IFPipelineOutput
  • callback (Callable, 可选) — 在推理过程中每隔 callback_steps 步骤调用一次的函数。该函数将使用以下参数调用: callback(step: int, timestep: int, latents: torch.Tensor)
  • callback_steps (int, 可选, 默认为1) — 控制函数 callback 被调用的频率。若未指定,回调函数将在每一步被调用。
  • clean_caption (bool, 可选, 默认为 True) — 在创建嵌入之前是否清理说明文。需要安装 beautifulsoup4ftfy。如果依赖项未安装,则从原始提示中创建嵌入。
  • use_resolution_binning (bool 默认为 True) — 如果设置为 True,则首先使用 ASPECT_RATIO_1024_BIN 将请求的高度和宽度映射到最近的分辨率。然后将产生的潜在图像解码回图像,并调整大小到请求的分辨率。对于生成非正方形图像非常有用。
  • max_sequence_lengthint 默认为 300)— 与 prompt 一起使用的最大序列长度。
  • pag_scalefloat可选,默认为 3.0)— 扰动注意力引导的缩放因子。如果将其设置为 0.0,则不使用扰动注意力引导。
  • pag_adaptive_scalefloat可选,默认为 0.0)— 扰动注意力引导的自适应缩放因子。如果设置为 0.0,则使用 pag_scale

返回值

ImagePipelineOutput 或 tuple

如果 return_dictTrue,则返回 ImagePipelineOutput,否则返回一个包含生成的图像列表的 tuple

在调用生成管线时调用的函数。

示例

>>> import torch
>>> from diffusers import AutoPipelineForText2Image

>>> pipe = AutoPipelineForText2Image.from_pretrained(
...     "PixArt-alpha/PixArt-Sigma-XL-2-1024-MS",
...     torch_dtype=torch.float16,
...     pag_applied_layers=["blocks.14"],
...     enable_pag=True,
... )
>>> pipe = pipe.to("cuda")

>>> prompt = "A small cactus with a happy face in the Sahara desert"
>>> image = pipe(prompt, pag_scale=4.0, guidance_scale=1.0).images[0]

encode_prompt

< >

( prompt: Union do_classifier_free_guidance: bool = True negative_prompt: str = '' num_images_per_prompt: int = 1 device: Optional = None prompt_embeds: Optional = None negative_prompt_embeds: Optional = None prompt_attention_mask: Optional = None negative_prompt_attention_mask: Optional = None clean_caption: bool = False max_sequence_length: int = 300 **kwargs )

参数

  • prompt (strList[str], 可选) — 待编码的提示
  • negative_prompt (strList[str]可选) — 不引导图像生成的提示。如果没有定义,则需要传递 negative_prompt_embeds。不使用引导时(即,如果 guidance_scale 小于 1 时)将被忽略。对于 PixArt-Alpha,这应该是 ""。
  • do_classifier_free_guidance (bool可选,默认为 True) — 是否使用无分类器引导
  • num_images_per_prompt (int可选,默认为 1) — 每个提示应生成的图像数量 — (torch.device可选): 将结果嵌入放置在 torch device 上
  • prompt_embedstorch.Tensor可选)— 预生成的文本嵌入。可用于轻松调整文本输入,例如提示权重。未提供时,将从 prompt 输入参数中生成文本嵌入。
  • negative_prompt_embedstorch.Tensor可选)— 预生成的负文本嵌入。对于 PixArt-Alpha,它应该是 "" 字符串的嵌入。
  • clean_captionbool,默认为 False)— 如果为 True,函数将在编码之前预处理并清理提供的字幕。
  • max_sequence_length (int, 默认为 300) — 用于提示的最大序列长度。

将提示编码到文本编码器的隐藏状态。

< > 在GitHub上更新