参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键应以附加的 text_encoder 为前缀，以区分 unet lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值的含义与 kohya-ss 训练器脚本中的 --network_alpha 选项相同。请参阅 此链接。
• text_encoder (CLIPTextModel) — 要将 LoRA 层加载到的文本编码器模型。
• prefix (str) — state_dict 中 text_encoder 的预期前缀。
• lora_scale (float) — 在 lora 线性层的输出与常规 lora 层的输出相加之前，lora 线性层的输出的缩放程度。
• adapter_name (str, 可选) — 用于引用加载的 adapter 模型的 Adapter 名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的 adapter 总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，也可以使用额外的前缀 unet 来区分文本编码器 lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值的含义与 kohya-ss 训练脚本中的 --network_alpha 选项相同。请参阅 此链接。
• unet (UNet2DConditionModel) — 要将 LoRA 层加载到的 UNet 模型。
• adapter_name (str, optional) — 用于引用加载的适配器模型的适配器名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, optional) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• pretrained_model_name_or_path_or_dict (str or os.PathLike or dict) — 参见 lora_state_dict()。
• adapter_name (str, optional) — 用于引用加载的适配器模型的适配器名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, optional) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。
• kwargs (dict, optional) — 参见 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str or os.PathLike or dict) — 可以是以下之一：
  • 一个字符串，预训练模型的模型 ID（例如 google/ddpm-celebahq-256），托管在 Hub 上。
  • 一个目录的路径（例如 ./my_model_directory），其中包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], optional) — 如果不使用标准缓存，则下载的预训练模型配置缓存到的目录路径。
• force_download (bool, optional, defaults to False) — 是否强制（重新）下载模型权重和配置文件，覆盖已存在的缓存版本。
• proxies (Dict[str, str], optional) — 按协议或端点使用的代理服务器字典，例如，{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, optional, defaults to False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，则不会从 Hub 下载模型。
• token (str or bool, optional) — 用作远程文件的 HTTP Bearer 授权的令牌。如果为 True，则使用从 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, optional, defaults to "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, optional, defaults to "") — Hub 上或本地的较大模型库中模型文件的子文件夹位置。
• weight_name (str, optional, defaults to None) — 序列化状态字典文件的名称。

参数

• save_directory (str or os.PathLike) — 用于保存 LoRA 参数的目录。如果不存在，将创建该目录。
• unet_lora_layers (Dict[str, torch.nn.Module] or Dict[str, torch.Tensor]) — 对应于 unet 的 LoRA 层的状态字典。
• text_encoder_lora_layers (Dict[str, torch.nn.Module] or Dict[str, torch.Tensor]) — 对应于 text_encoder 的 LoRA 层的状态字典。必须显式传递文本编码器 LoRA 状态字典，因为它来自 🤗 Transformers。
• is_main_process (bool, optional, defaults to True) — 调用此过程是否为主进程。在分布式训练期间很有用，您需要在所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True，以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。当您需要在分布式训练中用另一种方法替换 torch.save 时非常有用。可以使用环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, optional, defaults to True) — 是否使用 safetensors 或传统的 PyTorch 方式 pickle 来保存模型。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键应该以额外的 text_encoder 为前缀，以区分 unet lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值的含义与 kohya-ss 训练器脚本中的 --network_alpha 选项相同。请参阅此链接。
• text_encoder (CLIPTextModel) — 要将 LoRA 层加载到的文本编码器模型。
• prefix (str) — state_dict 中 text_encoder 的预期前缀。
• lora_scale (float) — 在与常规 lora 层的输出相加之前，lora 线性层输出的缩放程度。
• adapter_name (str, optional) — 用于引用已加载适配器模型的适配器名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, optional) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，也可以以额外的 unet 为前缀，这可以用于区分文本编码器 lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值的含义与 kohya-ss 训练器脚本中的 --network_alpha 选项相同。请参阅此链接。
• unet (UNet2DConditionModel) — 要将 LoRA 层加载到的 UNet 模型。
• adapter_name (str, optional) — 用于引用已加载适配器模型的适配器名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, optional) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• pretrained_model_name_or_path_or_dict (str or os.PathLike or dict) — 参见 lora_state_dict()。
• adapter_name (str, optional) — 用于引用已加载适配器模型的适配器名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, optional) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。
• kwargs (dict, optional) — 参见 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str or os.PathLike or dict) — 可以是以下之一：
  • 一个字符串，Hub 上托管的预训练模型的模型 ID（例如 google/ddpm-celebahq-256）。
  • 一个目录的路径（例如 ./my_model_directory），其中包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], optional) — 如果不使用标准缓存，则为缓存下载的预训练模型配置的目录路径。
• force_download (bool, optional, defaults to False) — 是否强制（重新）下载模型权重和配置文件，覆盖缓存版本（如果存在）。
• proxies (Dict[str, str], optional) — 一个代理服务器字典，用于按协议或端点使用，例如，{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, optional, defaults to False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，则不会从 Hub 下载模型。
• token (str 或 bool，*可选的*) — 用作远程文件 HTTP Bearer 授权的令牌。如果为 True，则使用从 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, *可选的*，默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, *可选的*，默认为 "") — 模型文件在 Hub 或本地的较大模型仓库中的子文件夹位置。
• weight_name (str, *可选的*，默认为 None) — 序列化状态字典文件的名称。

参数

• save_directory (str 或 os.PathLike) — 用于保存 LoRA 参数的目录。如果目录不存在，则会创建它。
• unet_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 unet 的 LoRA 层的状态字典。
• text_encoder_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder 的 LoRA 层的状态字典。必须显式传递 text encoder LoRA 状态字典，因为它来自 🤗 Transformers。
• text_encoder_2_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder_2 的 LoRA 层的状态字典。必须显式传递 text encoder LoRA 状态字典，因为它来自 🤗 Transformers。
• is_main_process (bool, *可选的*，默认为 True) — 调用此函数的进程是否为主进程。在分布式训练中很有用，您需要在所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中很有用，当您需要用另一种方法替换 torch.save 时。可以使用环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, *可选的*，默认为 True) — 是否使用 safetensors 或传统的 PyTorch 方式（使用 pickle）保存模型。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键应以额外的 text_encoder 为前缀，以区分 unet lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值的含义与 kohya-ss 训练脚本中的 --network_alpha 选项相同。请参考此链接。
• text_encoder (CLIPTextModel) — 要将 LoRA 层加载到的文本编码器模型。
• prefix (str) — state_dict 中 text_encoder 的预期前缀。
• lora_scale (float) — 在与常规 lora 层的输出相加之前，lora 线性层的输出要缩放多少。
• adapter_name (str, *可选的*) — 用于引用加载的适配器模型的适配器名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, *可选的*) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，也可以以额外的 unet 为前缀，用于区分文本编码器 lora 层。
• transformer (SD3Transformer2DModel) — 要将 LoRA 层加载到的 Transformer 模型。
• adapter_name (str, optional) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, optional) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 参见 lora_state_dict()。
• adapter_name (str, optional) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, optional) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。
• kwargs (dict, optional) — 参见 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下之一：
  • 一个字符串，即托管在 Hub 上的预训练模型的模型 ID (例如 google/ddpm-celebahq-256)。
  • 一个指向目录的路径 (例如 ./my_model_directory)，其中包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], optional) — 如果未使用标准缓存，则下载的预训练模型配置缓存到的目录的路径。
• force_download (bool, optional, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖缓存的版本（如果存在）。
• proxies (Dict[str, str], optional) — 要按协议或端点使用的代理服务器字典，例如，{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理服务器用于每个请求。
• local_files_only (bool, optional, 默认为 False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，则不会从 Hub 下载模型。
• token (str 或 bool, optional) — 用作远程文件的 HTTP Bearer 授权的令牌。如果为 True，则使用从 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, optional, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, optional, 默认为 "") — Hub 或本地的较大模型仓库中模型文件的子文件夹位置。

参数

• save_directory (str 或 os.PathLike) — 用于保存 LoRA 参数的目录。如果目录不存在，将创建该目录。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 transformer 的 LoRA 层的状态字典。
• text_encoder_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder 的 LoRA 层的状态字典。必须显式传递文本编码器 LoRA 状态字典，因为它来自 🤗 Transformers。
• text_encoder_2_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder_2 的 LoRA 层的状态字典。必须显式传递文本编码器 LoRA 状态字典，因为它来自 🤗 Transformers。
• is_main_process (bool, optional, 默认为 True) — 调用此过程是否为主进程。在分布式训练期间很有用，您需要在所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中很有用，当您需要用另一种方法替换 torch.save 时。可以使用环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, optional, 默认为 True) — 是否使用 safetensors 或传统的 PyTorch 方式 pickle 保存模型。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键应以额外的 text_encoder 为前缀，以区分 unet lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值与 kohya-ss 训练器脚本中的 --network_alpha 选项具有相同的含义。请参阅此链接。
• text_encoder (CLIPTextModel) — 要将 LoRA 层加载到的文本编码器模型。
• prefix (str) — state_dict 中 text_encoder 的预期前缀。
• lora_scale (float) — 在与常规 lora 层的输出相加之前，lora 线性层输出的缩放量。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，也可以以额外的 unet 为前缀，这可以用于区分文本编码器 lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值与 kohya-ss 训练器脚本中的 --network_alpha 选项具有相同的含义。请参阅此链接。
• transformer (FluxTransformer2DModel) — 要将 LoRA 层加载到的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 请参阅 lora_state_dict()。
• kwargs (dict, 可选) — 请参阅 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — `通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下之一：
  • 字符串，Hub 上托管的预训练模型的模型 ID（例如 google/ddpm-celebahq-256）。
  • 目录的路径（例如 ./my_model_directory），其中包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 如果不使用标准缓存，则下载的预训练模型配置缓存到的目录的路径。
• force_download (bool, 可选，默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖缓存的版本（如果存在）。
• proxies (Dict[str, str], 可选) — 要按协议或端点使用的代理服务器字典，例如，{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, 可选，默认为 False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，则不会从 Hub 下载模型。
• token (str 或 bool, 可选) — 用作远程文件的 HTTP Bearer 授权的令牌。如果为 True，则使用从 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选，默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选，默认为 "") — Hub 或本地更大的模型仓库中模型文件的子文件夹位置。

参数

• save_directory (str 或 os.PathLike) — 用于保存 LoRA 参数的目录。如果目录不存在，则会创建它。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 transformer 的 LoRA 层的状态字典 (state dict)。
• text_encoder_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder 的 LoRA 层的状态字典。 必须显式传递文本编码器 LoRA 状态字典，因为它来自 🤗 Transformers。
• is_main_process (bool, 可选, 默认为 True) — 调用此函数的进程是否为主进程。在分布式训练中很有用，您需要在所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True，以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。当您需要用其他方法替换 torch.save 时，在分布式训练期间非常有用。 可以使用环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 或传统的 PyTorch 方式 pickle 保存模型。

参数

• components (List[str]) — 要从中解除 LoRA 融合的 LoRA 可注入组件列表。

参数

• reset_to_overwritten_params (bool, 默认为 False) — 是否将 LoRA 加载的模块重置为其原始参数。 有关更多信息，请参阅 Flux 文档。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。 键可以直接索引到 unet 中，或者以额外的 unet 为前缀，这可以用于区分文本编码器 lora 层。
• transformer (CogVideoXTransformer3DModel) — 要将 LoRA 层加载到的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。 如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 请参阅 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。 如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。
• kwargs (dict, 可选) — 请参阅 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下之一：
  • 字符串，Hub 上托管的预训练模型的模型 ID (例如 google/ddpm-celebahq-256)。
  • 目录的路径（例如 ./my_model_directory），其中包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • torch state dict。
• cache_dir (Union[str, os.PathLike], 可选) — 如果未使用标准缓存，则为下载的预训练模型配置缓存的目录路径。
• force_download (bool, 可选，默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖已存在的缓存版本。
• proxies (Dict[str, str], 可选) — 按协议或端点使用的代理服务器字典，例如，{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, 可选，默认为 False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，则不会从 Hub 下载模型。
• token (str 或 bool, 可选) — 用作远程文件的 HTTP Bearer 授权的令牌。如果为 True，则使用从 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选，默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选，默认为 "") — Hub 上或本地的较大模型存储库中模型文件的子文件夹位置。

参数

• save_directory (str 或 os.PathLike) — 用于保存 LoRA 参数的目录。如果不存在，将创建该目录。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 transformer 的 LoRA 层的状态字典。
• is_main_process (bool, 可选，默认为 True) — 调用此进程是否为主进程。在分布式训练期间很有用，您需要在所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中，当您需要用另一种方法替换 torch.save 时很有用。可以使用环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, 可选，默认为 True) — 是否使用 safetensors 或传统的 PyTorch 方式 pickle 保存模型。

参数

• components (List[str]) — 要从中解融合 LoRA 的 LoRA 可注入组件列表。
• unfuse_transformer (bool, 默认为 True) — 是否解融合 UNet LoRA 参数。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，也可以以附加的 unet 为前缀，这可用于区分文本编码器 lora 层。
• transformer (MochiTransformer3DModel) — 要将 LoRA 层加载到的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，它将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 参见 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，则将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。
• kwargs (dict, 可选) — 参见 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下之一：
  • 一个字符串，Hub 上托管的预训练模型的模型 ID (例如 google/ddpm-celebahq-256)。
  • 一个目录的路径 (例如 ./my_model_directory)，其中包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 如果未使用标准缓存，则下载的预训练模型配置缓存到的目录路径。
• force_download (bool, 可选, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖缓存版本（如果存在）。
• proxies (Dict[str, str], 可选) — 要按协议或端点使用的代理服务器字典，例如，{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, 可选, 默认为 False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，则不会从 Hub 下载模型。
• token (str 或 bool, 可选) — 用作远程文件的 HTTP Bearer 授权的令牌。如果为 True，则使用从 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — Hub 或本地的较大模型存储库中模型文件的子文件夹位置。

参数

• save_directory (str 或 os.PathLike) — 用于保存 LoRA 参数的目录。如果目录不存在，则会创建该目录。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 transformer 的 LoRA 层的状态字典。
• is_main_process (bool, 可选, 默认为 True) — 调用此过程是否为主进程。在分布式训练期间很有用，您需要在所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中，当您需要用另一种方法替换 torch.save 时很有用。可以使用环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 或传统的 PyTorch 方式 pickle 保存模型。

参数

• components (List[str]) — 要从中解融合 LoRA 的 LoRA 可注入组件列表。
• unfuse_transformer (bool, 默认为 True) — 是否解融合 UNet LoRA 参数。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，或者以额外的 unet 为前缀，这可以用于区分文本编码器 lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值与 kohya-ss 训练器脚本中的 --network_alpha 选项具有相同的含义。请参阅 此链接。
• transformer (UVit2DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, optional) — 用于引用已加载适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, optional) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加速模型加载。

参数

• Deletes 删除 unet 和 text-encoder(s) 的 adapter_name 的 LoRA 层。 — adapter_names (Union[List[str], str]): 要删除的适配器的名称。可以是单个字符串或字符串列表

参数

• components — (List[str]): 要将 LoRA 融合到的 LoRA 可注入组件列表。
• lora_scale (float, defaults to 1.0) — 控制 LoRA 参数对输出的影响程度。
• safe_fusing (bool, defaults to False) — 是否在融合之前检查融合权重中是否存在 NaN 值，如果存在 NaN 值则不融合。
• adapter_names (List[str], optional) — 要用于融合的适配器名称。如果未传递任何内容，则将融合所有活动适配器。

参数

• adapter_names (List[str]) — 要将设备发送到的适配器列表。
• device (Union[torch.device, str, int]) — 要将适配器发送到的设备。可以是 torch 设备、字符串或整数。

参数

• components (List[str]) — 要从中取消融合 LoRA 的 LoRA 可注入组件列表。
• unfuse_unet (bool, defaults to True) — 是否取消融合 UNet LoRA 参数。
• unfuse_text_encoder (bool, defaults to True) — 是否取消融合文本编码器 LoRA 参数。如果文本编码器没有通过 LoRA 参数进行猴子补丁，则不会有任何效果。