参数

• adapter_names (Union[List[str], str]) — 要删除的适配器名称。

参数

• target_rank (int) — 将要加载的所有适配器中最高的秩。
• check_compiled (str, 可选, 默认为 "error") — 如何处理已编译的模型。检查可以返回以下消息：
  • “error”（默认）：引发错误
  • “warn”：发出警告
  • “ignore”：不做任何事

参数

• components — (List[str]): 要将 LoRA 融合到其中的 LoRA 可注入组件列表。
• lora_scale (float, 默认为 1.0) — 控制 LoRA 参数对输出的影响程度。
• safe_fusing (bool, 默认为 False) — 是否在融合前检查融合权重中的 NaN 值，如果值为 NaN 则不融合它们。
• adapter_names (List[str], 可选) — 用于融合的适配器名称。如果未传递，则所有活动适配器都将融合。

参数

• adapter_names (List[str] 或 str) — 要使用的适配器名称。
• adapter_weights (Union[List[float], float], 可选) — 与 UNet 一起使用的适配器权重。如果为 None，则所有适配器的权重都设置为 1.0。

参数

• adapter_names (List[str]) — 要将设备发送到的适配器列表。
• device (Union[torch.device, str, int]) — 将适配器发送到的设备。可以是 torch 设备、字符串或整数。

参数

• components (List[str]) — 要从中解融合 LoRA 的 LoRA 可注入组件列表。
• unfuse_unet (bool, 默认为 True) — 是否解融合 UNet LoRA 参数。如果文本编码器没有通过 LoRA 参数进行猴子补丁，则不会有任何效果。
• unfuse_text_encoder (bool, 默认为 True) — 是否解融合文本编码器 LoRA 参数。如果文本编码器没有通过 LoRA 参数进行猴子补丁，则不会有任何效果。

参数

• state_dict (dict) — 一个包含 LoRA 层参数的标准状态字典。键应以额外的 text_encoder 为前缀，以区分 UNet LoRA 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值与 kohya-ss 训练器脚本中的 --network_alpha 选项具有相同的含义。请参阅此链接。
• text_encoder (CLIPTextModel) — 要加载 LoRA 层的文本编码器模型。
• prefix (str) — state_dict 中 text_encoder 的预期前缀。
• lora_scale (float) — 在与常规 lora 层的输出相加之前，lora 线性层输出的缩放比例。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中派生。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，也可以附加 unet 前缀，用于区分文本编码器 lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值与 kohya-ss 训练器脚本中的 --network_alpha 选项具有相同的含义。请参阅此链接。
• unet (UNet2DConditionModel) — 要加载 LoRA 层的 UNet 模型。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中派生。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 请参阅 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 默认为 False。是否原地替换现有（LoRA）适配器与新加载的适配器。这意味着，不是加载一个额外的适配器，而是将现有适配器权重替换为新适配器的权重。这可以更快，更节省内存。然而，热插拔的主要优点是，当模型使用 torch.compile 编译时，加载新适配器不需要重新编译模型。当使用热插拔时，传入的 adapter_name 应该是一个已加载适配器的名称。

  如果新适配器和旧适配器具有不同的等级和/或 LoRA alpha（即缩放），则需要在加载适配器之前调用一个附加方法：

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是：
  • 一个字符串，托管在 Hub 上的预训练模型的 *模型 ID*（例如 google/ddpm-celebahq-256）。
  • 一个 *目录* 的路径（例如 ./my_model_directory），包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 如果不使用标准缓存，则为下载的预训练模型配置的缓存目录路径。
• force_download (bool, 可选, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖已存在的缓存版本。
• proxies (Dict[str, str], 可选) — 要按协议或端点使用的代理服务器字典，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。每次请求都会使用代理。
• local_files_only (bool, 可选, 默认为 False) — 是否只加载本地模型权重和配置文件。如果设置为 True，模型将不会从 Hub 下载。
• token (str 或 bool, 可选) — 用作远程文件的 HTTP 承载授权的令牌。如果为 True，则使用从 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — 模型文件在 Hub 或本地大型模型仓库中的子文件夹位置。
• weight_name (str, 可选, 默认为 None) — 序列化状态字典的文件名。
• return_lora_metadata (bool, 可选, 默认为 False) — 启用时，额外返回 LoRA 适配器元数据，通常在状态字典中找到。

参数

• save_directory (str 或 os.PathLike) — 保存 LoRA 参数的目录。如果不存在将创建。
• unet_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 unet 的 LoRA 层状态字典。
• text_encoder_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder 的 LoRA 层状态字典。必须明确传递文本编码器 LoRA 状态字典，因为它来自 🤗 Transformers。
• is_main_process (bool, 可选, 默认为 True) — 调用此过程是否为主过程。在分布式训练中，如果您需要在所有进程上调用此函数，则此选项很有用。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞态条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中，当您需要用其他方法替换 torch.save 时，此选项很有用。可以通过环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 或传统 PyTorch 方式与 pickle 保存模型。
• unet_lora_adapter_metadata — 与 unet 相关的 LoRA 适配器元数据，将与状态字典一起序列化。
• text_encoder_lora_adapter_metadata — 与文本编码器相关的 LoRA 适配器元数据，将与状态字典一起序列化。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键应以附加的 text_encoder 为前缀，以区分 unet lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值与 kohya-ss 训练器脚本中的 --network_alpha 选项具有相同的含义。请参阅此链接。
• text_encoder (CLIPTextModel) — 要加载 LoRA 层的文本编码器模型。
• prefix (str) — state_dict 中 text_encoder 的预期前缀。
• lora_scale (float) — 在与常规 lora 层输出相加之前，lora 线性层输出的缩放比例。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中派生。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，也可以附加 unet 前缀，用于区分文本编码器 lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值与 kohya-ss 训练器脚本中的 --network_alpha 选项具有相同的含义。请参阅此链接。
• unet (UNet2DConditionModel) — 要加载 LoRA 层的 UNet 模型。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 `default_{i}`，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 仅加载预训练的 LoRA 权重，而不初始化随机权重，从而加快模型加载速度。
• hotswap (bool, 可选) — 参见load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中推导。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 参见lora_state_dict()。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 `default_{i}`，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 仅加载预训练的 LoRA 权重，而不初始化随机权重，从而加快模型加载速度。
• hotswap (bool, 可选) — 参见load_lora_weights()。
• kwargs (dict, 可选) — 参见lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下任意一种：
  • Hub 上托管的预训练模型的模型 ID 字符串（例如 `google/ddpm-celebahq-256`）。
  • 包含使用 ModelMixin.save_pretrained() 保存的模型权重的目录路径（例如 `./my_model_directory`）。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 如果不使用标准缓存，则为下载的预训练模型配置的缓存目录路径。
• force_download (bool, 可选，默认为 False) — 是否强制（重新）下载模型权重和配置文件，如果存在则覆盖缓存版本。
• proxies (Dict[str, str], 可选) — 要按协议或端点使用的代理服务器字典，例如 `{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}`。每个请求都使用代理。
• local_files_only (bool, 可选，默认为 False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，模型将不会从 Hub 下载。
• token (str 或 bool, 可选) — 用于远程文件的 HTTP Bearer 授权令牌。如果为 True，则使用从 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选，默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选，默认为 "") — Hub 或本地较大模型仓库中模型文件的子文件夹位置。
• weight_name (str, 可选，默认为 None) — 序列化状态字典文件的名称。
• return_lora_metadata (bool, 可选，默认为 False) — 启用时，额外返回 LoRA 适配器元数据，通常在状态字典中找到。

参数

• save_directory (str 或 os.PathLike) — 保存 LoRA 参数的目录。如果不存在，将创建。
• unet_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 unet 的 LoRA 层状态字典。
• text_encoder_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder 的 LoRA 层状态字典。必须显式传递文本编码器 LoRA 状态字典，因为它来自 🤗 Transformers。
• text_encoder_2_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder_2 的 LoRA 层状态字典。必须显式传递文本编码器 LoRA 状态字典，因为它来自 🤗 Transformers。
• is_main_process (bool, 可选，默认为 True) — 调用此过程是否为主过程。在分布式训练期间有用，您需要在所有过程上调用此函数。在这种情况下，仅在主过程上设置 is_main_process=True 以避免竞态条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练期间有用，您需要将 torch.save 替换为另一种方法。可以通过环境变量 DIFFUSERS_SAVE_MODE 配置。
• safe_serialization (bool, 可选，默认为 True) — 是否使用 safetensors 或传统的 PyTorch 方式（使用 pickle）保存模型。
• unet_lora_adapter_metadata — 与 unet 关联的 LoRA 适配器元数据，将与状态字典一起序列化。
• text_encoder_lora_adapter_metadata — 与文本编码器关联的 LoRA 适配器元数据，将与状态字典一起序列化。
• text_encoder_2_lora_adapter_metadata — 与第二个文本编码器关联的 LoRA 适配器元数据，将与状态字典一起序列化。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键应以额外的 text_encoder 为前缀，以区分 unet lora 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值与 kohya-ss 训练器脚本中的 --network_alpha 选项具有相同的含义。请参阅 此链接。
• text_encoder (CLIPTextModel) — 要加载 LoRA 层的文本编码器模型。
• prefix (str) — state_dict 中 text_encoder 的预期前缀。
• lora_scale (float) — lora 线性层输出在与常规 lora 层输出相加之前要缩放的量。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 `default_{i}`，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 仅加载预训练的 LoRA 权重，而不初始化随机权重，从而加快模型加载速度。
• hotswap (bool, 可选) — 参见load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中推导。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，也可以以额外的 unet 为前缀，以区分文本编码器 lora 层。
• transformer (SD3Transformer2DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 `default_{i}`，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 仅加载预训练的 LoRA 权重，而不初始化随机权重，从而加快模型加载速度。
• hotswap (bool, 可选) — 参见load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中推导。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 参见lora_state_dict()。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 `default_{i}`，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 仅加载预训练的 LoRA 权重，而不初始化随机权重，从而加快模型加载速度。
• hotswap (bool, 可选) — 参见load_lora_weights()。
• kwargs (dict, 可选) — 参见lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下任意一种：
  • Hub 上托管的预训练模型的模型 ID 字符串（例如 `google/ddpm-celebahq-256`）。
  • 包含使用 ModelMixin.save_pretrained() 保存的模型权重的目录路径（例如 `./my_model_directory`）。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 如果不使用标准缓存，则为下载的预训练模型配置的缓存目录路径。
• force_download (bool, optional, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，如果缓存版本存在则覆盖。
• proxies (Dict[str, str], 可选) — 要按协议或端点使用的代理服务器字典，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, 可选, 默认为 False) — 是否只加载本地模型权重和配置文件。如果设置为 True，模型将不会从 Hub 下载。
• token (str 或 bool, 可选) — 用于远程文件的 HTTP Bearer 授权的令牌。如果为 True，则使用 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — Hub 上或本地大型模型仓库中模型文件的子文件夹位置。
• return_lora_metadata (bool, 可选, 默认为 False) — 启用时，额外返回 LoRA 适配器元数据，通常在状态字典中找到。

参数

• save_directory (str 或 os.PathLike) — 保存 LoRA 参数的目录。如果不存在，则会创建。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 transformer 的 LoRA 层状态字典。
• text_encoder_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder 的 LoRA 层状态字典。必须显式传递文本编码器 LoRA 状态字典，因为它来自 🤗 Transformers。
• text_encoder_2_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder_2 的 LoRA 层状态字典。必须显式传递文本编码器 LoRA 状态字典，因为它来自 🤗 Transformers。
• is_main_process (bool, 可选, 默认为 True) — 调用此过程是否为主过程。在分布式训练中需要所有过程都调用此函数时很有用。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中需要用其他方法替换 torch.save 时很有用。可以通过环境变量 DIFFUSERS_SAVE_MODE 配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 而非传统 PyTorch 方式（使用 pickle）保存模型。
• transformer_lora_adapter_metadata — 与 transformer 相关的 LoRA 适配器元数据，将与状态字典一起序列化。
• text_encoder_lora_adapter_metadata — 与文本编码器相关的 LoRA 适配器元数据，将与状态字典一起序列化。
• text_encoder_2_lora_adapter_metadata — 与第二个文本编码器相关的 LoRA 适配器元数据，将与状态字典一起序列化。

参数

• components (List[str]) — 要从中解除 LoRA 的 LoRA 可注入组件列表。
• unfuse_transformer (bool, 默认为 True) — 是否解除 UNet LoRA 参数的融合。
• unfuse_text_encoder (bool, 默认为 True) — 是否解除文本编码器 LoRA 参数的融合。如果文本编码器未通过 LoRA 参数进行猴子补丁，则不会产生任何影响。

参数

• state_dict (dict) — 包含 LoRA 层参数的标准状态字典。键应以额外的 text_encoder 作为前缀，以区分 UNet LoRA 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值与 kohya-ss 训练器脚本中的 --network_alpha 选项具有相同的含义。请参阅此链接。
• text_encoder (CLIPTextModel) — 要加载 LoRA 层的文本编码器模型。
• prefix (str) — state_dict 中 text_encoder 的预期前缀。
• lora_scale (float) — LoRA 线性层输出在与常规 LoRA 层输出相加之前的缩放比例。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中派生。

参数

• state_dict (dict) — 包含 LoRA 层参数的标准状态字典。键可以直接索引到 unet 中，也可以带有额外的 unet 前缀，用于区分文本编码器 LoRA 层。
• network_alphas (Dict[str, float]) — 用于稳定学习和防止下溢的网络 alpha 值。此值与 kohya-ss 训练器脚本中的 --network_alpha 选项具有相同的含义。请参阅此链接。
• transformer (FluxTransformer2DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中派生。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 请参阅lora_state_dict()。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅load_lora_weights()。
• kwargs (dict, 可选) — 请参阅lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下类型：
  • 一个字符串，即托管在 Hub 上的预训练模型的 *模型 ID*（例如 google/ddpm-celebahq-256）。
  • 一个 *目录* 路径（例如 ./my_model_directory），包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 预训练模型配置的下载缓存目录，如果未使用标准缓存，则为该目录。
• force_download (bool, 可选, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖已存在的缓存版本。
• proxies (Dict[str, str], 可选) — 要按协议或端点使用的代理服务器字典，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。每次请求都会使用代理。
• local_files_only (bool, 可选, 默认为 False) — 是否只加载本地模型权重和配置文件。如果设置为 True，模型将不会从 Hub 下载。
• token (str 或 bool, 可选) — 用于远程文件的 HTTP 授权令牌。如果为 True，则使用 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — 模型文件在 Hub 或本地较大模型仓库中的子文件夹位置。
• return_lora_metadata (bool, 可选, 默认为 False) — 启用时，额外返回 LoRA 适配器元数据，通常在状态字典中找到。

参数

• save_directory (str 或 os.PathLike) — 保存 LoRA 参数的目录。如果目录不存在，将被创建。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 transformer 的 LoRA 层状态字典。
• text_encoder_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 text_encoder 的 LoRA 层状态字典。由于其来自 🤗 Transformers，必须明确传递文本编码器 LoRA 状态字典。
• is_main_process (bool, 可选, 默认为 True) — 调用此过程是否为主过程。在分布式训练中，如果您需要在所有进程上调用此函数，则此参数很有用。在这种情况下，只有在主进程上将 is_main_process 设置为 True，以避免竞态条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中，当您需要将 torch.save 替换为另一种方法时，此参数很有用。可以通过环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 或传统 PyTorch 方式（使用 pickle）保存模型。
• transformer_lora_adapter_metadata — 与 transformer 关联的 LoRA 适配器元数据，将与状态字典一起序列化。
• text_encoder_lora_adapter_metadata — 与文本编码器关联的 LoRA 适配器元数据，将与状态字典一起序列化。

参数

• components (List[str]) — 要从中解除 LoRA 融合的 LoRA 可注入组件列表。

参数

• reset_to_overwritten_params (bool, 默认为 False) — 是否将已加载 LoRA 的模块重置为其原始参数。请参阅 Flux 文档 了解更多信息。

参数

• state_dict (dict) — 包含 LoRA 层参数的标准状态字典。键可以直接索引到 unet 中，也可以前缀为额外的 unet，用于区分文本编码器 LoRA 层。
• transformer (CogVideoXTransformer3DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用已加载适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。提供此参数时，peft 的 LoraConfig 参数将不会从状态字典中派生。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 请参阅 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用已加载适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• kwargs (dict, 可选) — 请参阅 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下类型：
  • 一个字符串，即托管在 Hub 上的预训练模型的 *模型 ID*（例如 google/ddpm-celebahq-256）。
  • 一个 *目录* 路径（例如 ./my_model_directory），包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 预训练模型配置的下载缓存目录，如果未使用标准缓存，则为该目录。
• force_download (bool, 可选, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖已存在的缓存版本。
• proxies (Dict[str, str], 可选) — 要按协议或端点使用的代理服务器字典，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。每次请求都会使用代理。
• local_files_only (bool, 可选, 默认为 False) — 是否只加载本地模型权重和配置文件。如果设置为 True，模型将不会从 Hub 下载。
• token (str 或 bool, 可选) — 用于远程文件的 HTTP 授权令牌。如果为 True，则使用 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — 模型文件在 Hub 或本地较大模型仓库中的子文件夹位置。
• return_lora_metadata (bool, 可选, 默认为 False) — 启用时，额外返回 LoRA 适配器元数据，通常在状态字典中找到。

参数

• save_directory (str 或 os.PathLike) — 保存 LoRA 参数的目录。如果目录不存在，将被创建。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 与 transformer 对应的 LoRA 层状态字典。
• is_main_process (bool, 可选, 默认为 True) — 调用此函数的进程是否为主进程。在分布式训练中很有用，您需要在此所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中需要用其他方法替换 torch.save 时很有用。可以通过环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 或传统的 PyTorch 方式（使用 pickle）保存模型。
• transformer_lora_adapter_metadata — 与将随状态字典序列化的转换器关联的 LoRA 适配器元数据。

参数

• components (List[str]) — 从中解冻 LoRA 的 LoRA 可注入组件列表。
• unfuse_transformer (bool, 默认为 True) — 是否解冻 UNet LoRA 参数。

参数

• state_dict (dict) — 包含 LoRA 层参数的标准状态字典。键可以直接索引到 unet 中，也可以附加 unet 前缀，用于区分文本编码器 LoRA 层。
• transformer (MochiTransformer3DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用已加载适配器模型的适配器名称。如果未指定，它将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载。
• hotswap (bool, 可选) — 参见 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中派生。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 参见 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用已加载适配器模型的适配器名称。如果未指定，它将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载。
• hotswap (bool, 可选) — 参见 load_lora_weights()。
• kwargs (dict, 可选) — 参见 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是：
  • Hub 上托管的预训练模型的模型 ID 字符串（例如 google/ddpm-celebahq-256）。
  • 包含使用 ModelMixin.save_pretrained() 保存的模型权重的目录路径（例如 ./my_model_directory）。
  • PyTorch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 如果未使用标准缓存，则下载的预训练模型配置的缓存目录路径。
• force_download (bool, 可选, 默认为 False) — 是否强制重新下载模型权重和配置文件，如果存在缓存版本则覆盖。
• proxies (Dict[str, str], 可选) — 要按协议或端点使用的代理服务器字典，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。每次请求都会使用代理。
• local_files_only (bool, 可选, 默认为 False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，则不会从 Hub 下载模型。
• token (str 或 bool, 可选) — 用于远程文件的 HTTP bearer 授权令牌。如果为 True，则使用从 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — 模型文件在 Hub 或本地较大模型仓库中的子文件夹位置。
• return_lora_metadata (bool, 可选, 默认为 False) — 启用时，额外返回 LoRA 适配器元数据，通常在状态字典中找到。

参数

• save_directory (str 或 os.PathLike) — 保存 LoRA 参数的目录。如果不存在，则会创建。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 与 transformer 对应的 LoRA 层状态字典。
• is_main_process (bool, 可选, 默认为 True) — 调用此函数的进程是否为主进程。在分布式训练中很有用，您需要在所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中需要用其他方法替换 torch.save 时很有用。可以通过环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 或传统的 PyTorch 方式（使用 pickle）保存模型。
• transformer_lora_adapter_metadata — 与将随状态字典序列化的转换器关联的 LoRA 适配器元数据。

参数

• components (List[str]) — 要从中解融合 LoRA 的 LoRA 可注入组件列表。
• unfuse_transformer (bool, 默认为 True) — 是否解融合 UNet LoRA 参数。

参数

• state_dict (dict) — 包含 LoRA 层参数的标准状态字典。键可以直接索引到 unet 中，也可以附加 unet 前缀，用于区分文本编码器 LoRA 层。
• transformer (AuraFlowTransformer2DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用已加载适配器模型的适配器名称。如果未指定，它将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载。
• hotswap (bool, 可选) — 参见 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中派生。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 参见 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用已加载适配器模型的适配器名称。如果未指定，它将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载。
• hotswap (bool, 可选) — 参见 load_lora_weights()。
• kwargs (dict, 可选) — 参见 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下其中一种：
  • 一个字符串，即托管在 Hub 上的预训练模型的模型 ID（例如 google/ddpm-celebahq-256）。
  • 一个目录的路径（例如 ./my_model_directory），其中包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 预训练模型配置的下载缓存目录路径，如果未使用标准缓存。
• force_download (bool, 可选, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖已缓存的版本（如果存在）。
• proxies (Dict[str, str], 可选) — 要按协议或端点使用的代理服务器字典，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, 可选, 默认为 False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，则不会从 Hub 下载模型。
• token (str 或 bool, 可选) — 用于远程文件的 HTTP bearer 授权令牌。如果为 True，则使用 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — 模型文件在 Hub 或本地大型模型存储库中的子文件夹位置。
• return_lora_metadata (bool, 可选, 默认为 False) — 启用后，同时返回通常在状态字典中找到的 LoRA 适配器元数据。

参数

• save_directory (str 或 os.PathLike) — 保存 LoRA 参数的目录。如果不存在，则会创建。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 与 transformer 对应的 LoRA 层的状态字典。
• is_main_process (bool, 可选, 默认为 True) — 调用此过程是否为主过程。在分布式训练期间很有用，您需要在所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练期间需要用其他方法替换 torch.save 时很有用。可以通过环境变量 DIFFUSERS_SAVE_MODE 配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 或传统的 PyTorch pickle 方式保存模型。
• transformer_lora_adapter_metadata — 与 Transformer 关联的 LoRA 适配器元数据，将与状态字典一起序列化。

参数

• components (List[str]) — 要从中移除 LoRA 的可注入 LoRA 组件列表。
• unfuse_transformer (bool, 默认为 True) — 是否取消 UNet LoRA 参数的融合。

参数

• state_dict (dict) — 包含 LoRA 层参数的标准状态字典。键可以直接索引到 unet 中，也可以前缀为附加的 unet，用于区分文本编码器 LoRA 层。
• transformer (LTXVideoTransformer3DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。提供时，peft 的 LoraConfig 参数将不会从状态字典中推导。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 请参阅 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• kwargs (dict, 可选) — 请参阅 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下其中一种：
  • 一个字符串，即托管在 Hub 上的预训练模型的模型 ID（例如 google/ddpm-celebahq-256）。
  • 一个目录的路径（例如 ./my_model_directory），其中包含使用 ModelMixin.save_pretrained() 保存的模型权重。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 预训练模型配置的下载缓存目录路径，如果未使用标准缓存。
• force_download (bool, 可选, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖已缓存的版本（如果存在）。
• proxies (Dict[str, str], 可选) — 要按协议或端点使用的代理服务器字典，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, 可选, 默认为 False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，则不会从 Hub 下载模型。
• token (str 或 bool, 可选) — 用于远程文件的 HTTP bearer 授权令牌。如果为 True，则使用 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — 模型文件在 Hub 或本地大型模型存储库中的子文件夹位置。
• return_lora_metadata (bool, 可选, 默认为 False) — 启用后，同时返回通常在状态字典中找到的 LoRA 适配器元数据。

参数

• save_directory (str 或 os.PathLike) — 保存 LoRA 参数的目录。如果不存在，则会创建。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 与 transformer 对应的 LoRA 层的状态字典。
• is_main_process (bool, 可选, 默认为 True) — 调用此进程是否为主进程。在分布式训练期间很有用，您需要在所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练期间需要用其他方法替换 torch.save 时很有用。可以通过环境变量 DIFFUSERS_SAVE_MODE 配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 或传统的 PyTorch pickle 方式保存模型。
• transformer_lora_adapter_metadata — 与 Transformer 关联的 LoRA 适配器元数据，将与状态字典一起序列化。

参数

• components (List[str]) — 要从中移除 LoRA 的可注入 LoRA 组件列表。
• unfuse_transformer (bool, 默认为 True) — 是否取消 UNet LoRA 参数的融合。

参数

• state_dict (dict) — 一个包含 LoRA 层参数的标准状态字典。键可以直接索引到 unet 中，也可以带有额外的前缀 unet，用于区分文本编码器 LoRA 层。
• transformer (SanaTransformer2DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中推导。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 请参阅 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• kwargs (dict, 可选) — 请参阅 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是：
  • Hub 上托管的预训练模型的模型 ID 字符串（例如 google/ddpm-celebahq-256）。
  • 包含使用 ModelMixin.save_pretrained() 保存的模型权重的目录路径（例如 ./my_model_directory）。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 预训练模型配置的下载缓存目录路径，如果未使用标准缓存。
• force_download (bool, 可选, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖现有缓存版本。
• proxies (Dict[str, str], 可选) — 要使用的代理服务器字典，按协议或端点指定，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, 可选, 默认为 False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，模型将不会从 Hub 下载。
• token (str 或 bool, 可选) — 用作远程文件 HTTP 承载授权的令牌。如果为 True，则使用从 diffusers-cli login 生成的令牌（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — 模型文件中在 Hub 或本地较大模型仓库中的子文件夹位置。
• return_lora_metadata (bool, 可选, 默认为 False) — 启用时，额外返回 LoRA 适配器元数据，通常在状态字典中找到。

参数

• save_directory (str 或 os.PathLike) — LoRA 参数保存目录。如果不存在，将创建。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 transformer 的 LoRA 层状态字典。
• is_main_process (bool, 可选, 默认为 True) — 调用此函数的进程是否为主进程。在分布式训练期间很有用，您需要在所有进程上调用此函数。在这种情况下，仅在主进程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练期间，当您需要用另一种方法替换 torch.save 时很有用。可以通过环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 或传统的 PyTorch pickle 方式保存模型。
• transformer_lora_adapter_metadata — 与 transformer 关联的 LoRA 适配器元数据，将与状态字典一起序列化。

参数

• components (List[str]) — 要从中解融合 LoRA 的可注入 LoRA 组件列表。
• unfuse_transformer (bool, 默认为 True) — 是否解融合 UNet LoRA 参数。

参数

• state_dict (dict) — 一个包含 LoRA 层参数的标准状态字典。键可以直接索引到 unet 中，也可以带有额外的前缀 unet，用于区分文本编码器 LoRA 层。
• transformer (HunyuanVideoTransformer3DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。如果提供，peft 的 LoraConfig 参数将不会从状态字典中推导。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 请参阅 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用已加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• kwargs (dict, 可选) — 请参阅 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是：
  • Hub 上托管的预训练模型的模型 ID 字符串（例如 google/ddpm-celebahq-256）。
  • 包含使用 ModelMixin.save_pretrained() 保存的模型权重的目录路径（例如 ./my_model_directory）。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 预训练模型配置的下载缓存目录路径，如果未使用标准缓存。
• force_download (bool, 可选, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖现有缓存版本。
• proxies (Dict[str, str], 可选) — 要使用的代理服务器字典，按协议或端点指定，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, 可选, 默认为 False) — 是否只加载本地模型权重和配置文件。如果设置为 True，模型将不会从 Hub 下载。
• token (str 或 bool, 可选) — 用于远程文件的 HTTP bearer 授权的 token。如果为 True，则使用由 diffusers-cli login 生成的 token（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — 模型文件在 Hub 上或本地的更大模型存储库中的子文件夹位置。
• return_lora_metadata (bool, 可选, 默认为 False) — 启用时，额外返回 LoRA 适配器元数据，通常在状态字典中找到。

参数

• save_directory (str 或 os.PathLike) — 保存 LoRA 参数的目录。如果不存在，将创建该目录。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 transformer 的 LoRA 层状态字典。
• is_main_process (bool, 可选, 默认为 True) — 调用此过程是否为主过程。在分布式训练中，如果需要在所有过程上调用此函数，则此参数很有用。在这种情况下，仅在主过程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中，当您需要用另一种方法替换 torch.save 时很有用。可以通过环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 而不是传统的 PyTorch pickle 方式保存模型。
• transformer_lora_adapter_metadata — 与状态字典一起序列化的转换器相关的 LoRA 适配器元数据。

参数

• components (List[str]) — 要从其取消融合 LoRA 的可注入 LoRA 组件列表。
• unfuse_transformer (bool, 默认为 True) — 是否取消融合 UNet LoRA 参数。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，也可以带有附加的 unet 前缀，用于区分文本编码器 lora 层。
• transformer (Lumina2Transformer2DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。提供时，peft 的 LoraConfig 参数将不会从状态字典中推导。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 请参阅 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• kwargs (dict, 可选) — 请参阅 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是：
  • Hub 上托管的预训练模型的模型 ID 字符串（例如 google/ddpm-celebahq-256）。
  • 包含使用 ModelMixin.save_pretrained() 保存的模型权重的目录路径（例如 ./my_model_directory）。
  • 一个 torch 状态字典。
• cache_dir (Union[str, os.PathLike], 可选) — 如果不使用标准缓存，则为下载的预训练模型配置的缓存目录路径。
• force_download (bool, 可选, 默认为 False) — 是否强制（重新）下载模型权重和配置文件，覆盖现有缓存版本。
• proxies (Dict[str, str], 可选) — 按协议或端点使用的代理服务器字典，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。代理用于每个请求。
• local_files_only (bool, 可选, 默认为 False) — 是否仅加载本地模型权重和配置文件。如果设置为 True，模型将不会从 Hub 下载。
• token (str 或 bool, 可选) — 用于远程文件的 HTTP bearer 授权的 token。如果为 True，则使用由 diffusers-cli login 生成的 token（存储在 ~/.huggingface 中）。
• revision (str, 可选, 默认为 "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, 可选, 默认为 "") — 模型文件在 Hub 上或本地的更大模型存储库中的子文件夹位置。
• return_lora_metadata (bool, 可选, 默认为 False) — 启用时，额外返回 LoRA 适配器元数据，通常在状态字典中找到。

参数

• save_directory (str 或 os.PathLike) — 保存 LoRA 参数的目录。如果不存在，将创建该目录。
• transformer_lora_layers (Dict[str, torch.nn.Module] 或 Dict[str, torch.Tensor]) — 对应于 transformer 的 LoRA 层状态字典。
• is_main_process (bool, 可选, 默认为 True) — 调用此过程是否为主过程。在分布式训练中，如果需要在所有过程上调用此函数，则此参数很有用。在这种情况下，仅在主过程上设置 is_main_process=True 以避免竞争条件。
• save_function (Callable) — 用于保存状态字典的函数。在分布式训练中，当您需要用另一种方法替换 torch.save 时很有用。可以通过环境变量 DIFFUSERS_SAVE_MODE 进行配置。
• safe_serialization (bool, 可选, 默认为 True) — 是否使用 safetensors 而不是传统的 PyTorch pickle 方式保存模型。
• transformer_lora_adapter_metadata — 与状态字典一起序列化的转换器相关的 LoRA 适配器元数据。

参数

• components (List[str]) — 要从其取消融合 LoRA 的可注入 LoRA 组件列表。
• unfuse_transformer (bool, 默认为 True) — 是否取消融合 UNet LoRA 参数。

参数

• state_dict (dict) — 包含 lora 层参数的标准状态字典。键可以直接索引到 unet 中，也可以带有附加的 unet 前缀，用于区分文本编码器 lora 层。
• transformer (CogView4Transformer2DModel) — 要加载 LoRA 层的 Transformer 模型。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, 可选) — 请参阅 load_lora_weights()。
• metadata (dict) — 可选的 LoRA 适配器元数据。提供时，peft 的 LoraConfig 参数将不会从状态字典中推导。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 请参阅 lora_state_dict()。
• adapter_name (str, 可选) — 用于引用加载的适配器模型的适配器名称。如果未指定，将使用 default_{i}，其中 i 是正在加载的适配器总数。
• low_cpu_mem_usage (bool, 可选) — 通过仅加载预训练的 LoRA 权重而不初始化随机权重来加快模型加载速度。
• hotswap (bool, optional) — 详见 load_lora_weights()。
• kwargs (dict, optional) — 详见 lora_state_dict()。

参数

• pretrained_model_name_or_path_or_dict (str 或 os.PathLike 或 dict) — 可以是以下之一：
  • Hub 上托管的预训练模型的模型 ID 字符串（例如 google/ddpm-celebahq-256）。
  • 包含使用 ModelMixin.save_pretrained() 保存的模型权重的目录路径（例如 ./my_model_directory）。
  • torch 状态字典。
• cache_dir (Union[str, os.PathLike], optional) — 如果不使用标准缓存，则为下载的预训练模型配置的缓存目录路径。
• force_download (bool, optional, defaults to False) — 是否强制重新下载模型权重和配置文件，如果已缓存则覆盖。
• proxies (Dict[str, str], optional) — 按协议或端点使用的代理服务器字典，例如 {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}。每次请求都会使用代理。
• local_files_only (bool, optional, defaults to False) — 是否只加载本地模型权重和配置文件。如果设置为 True，则不会从 Hub 下载模型。
• token (str 或 bool, optional) — 用作远程文件 HTTP bearer 授权的 token。如果为 True，则使用 diffusers-cli login 生成的 token（存储在 ~/.huggingface 中）。
• revision (str, optional, defaults to "main") — 要使用的特定模型版本。它可以是分支名称、标签名称、提交 ID 或 Git 允许的任何标识符。
• subfolder (str, optional, defaults to "") — Hub 或本地较大模型仓库中模型文件的子文件夹位置。
• return_lora_metadata (bool, optional, defaults to False) — 启用时，额外返回 LoRA 适配器元数据，通常在状态字典中找到。