在 Hugging Face 使用 Adapters

注意：Adapters 已经取代了 adapter-transformers 库，并且在模型权重方面完全兼容。请点击此处了解更多信息。

Adapters 是 🤗 transformers 的一个附加库，用于使用适配器和其他参数高效方法有效地微调预训练语言模型。Adapters 还提供了在训练和推理期间组合适配器模块的各种方法。您可以在Adapters 论文中了解更多相关信息。

在 Hub 上探索 Adapters

您可以通过在模型页面左侧进行筛选来找到 Adapters 模型。一些适配器模型可以在 Adapter Hub 仓库中找到。来自这两个来源的模型都汇总在 AdapterHub 网站上。

安装

要开始使用，您可以参考 AdapterHub 安装指南。您也可以通过 pip 使用以下一键安装

pip install adapters

使用现有模型

有关加载预训练适配器的完整指南，我们建议您查看官方指南。

简要概述，完整的设置包括三个步骤

1. 使用 Adapters 提供的 AutoAdapterModel 类加载基础 transformers 模型。
2. 使用 load_adapter() 方法加载并添加适配器。
3. 通过 active_adapters 激活适配器（用于推理），或通过 train_adapter() 激活并将其设置为可训练（用于训练）。请务必查看适配器组合。

from adapters import AutoAdapterModel

# 1.
model = AutoAdapterModel.from_pretrained("FacebookAI/roberta-base")
# 2.
adapter_name = model.load_adapter("AdapterHub/roberta-base-pf-imdb")
# 3.
model.active_adapters = adapter_name
# or model.train_adapter(adapter_name)

您还可以使用 list_adapters 以编程方式查找所有适配器模型

from adapters import list_adapters

# source can be "ah" (AdapterHub), "hf" (hf.co) or None (for both, default)
adapter_infos = list_adapters(source="hf", model_name="FacebookAI/roberta-base")

如果您想了解如何加载特定模型，可以点击“在 Adapters 中使用”，您将获得一个可用的代码片段，您可以使用它来加载模型！

分享您的模型

有关使用 Adapters 分享模型的完整指南，我们建议您查看官方指南。

您可以通过使用已包含适配器的模型中的 push_adapter_to_hub 方法来分享您的适配器。

model.push_adapter_to_hub(
    "my-awesome-adapter",
    "awesome_adapter",
    adapterhub_tag="sentiment/imdb",
    datasets_tag="imdb"
)

此命令创建一个仓库，其中包含自动生成的模型卡片和所有必要的元数据。

其他资源

• Adapters 仓库
• Adapters 文档
• Adapters 论文
• 与 Hub 集成文档