在 Hugging Face 使用 Adapters

注意：Adapters 已取代 `adapter-transformers` 库，并在模型权重方面完全兼容。详情请参阅此处。

Adapters 是 🤗 `transformers` 的一个附加库，用于使用适配器和其他参数高效方法高效微调预训练语言模型。Adapters 还提供了多种在训练和推理期间组合适配器模块的方法。您可以在Adapters 论文中了解更多信息。

探索 Hub 上的 Adapters

您可以通过在模型页面左侧进行筛选来查找 Adapters 模型。一些适配器模型可以在 Adapter Hub 仓库中找到。来自这两个来源的模型都聚合在 AdapterHub 网站上。

安装

要开始使用，您可以参考AdapterHub 安装指南。您也可以通过 pip 使用以下一行命令进行安装

pip install adapters

使用现有模型

有关加载预训练适配器的完整指南，我们建议查阅官方指南。

简而言之，完整的设置包括三个步骤：

1. 使用 Adapters 提供的 `AutoAdapterModel` 类加载基础 `transformers` 模型。
2. 使用 `load_adapter()` 方法加载并添加适配器。
3. 通过 `active_adapters` 激活适配器（用于推理），或通过 `train_adapter()` 激活并将其设置为可训练（用于训练）。务必同时查阅适配器组合。

from adapters import AutoAdapterModel

# 1.
model = AutoAdapterModel.from_pretrained("FacebookAI/roberta-base")
# 2.
adapter_name = model.load_adapter("AdapterHub/roberta-base-pf-imdb")
# 3.
model.active_adapters = adapter_name
# or model.train_adapter(adapter_name)

您还可以使用 `list_adapters` 以编程方式查找所有适配器模型。

from adapters import list_adapters

# source can be "ah" (AdapterHub), "hf" (hf.co) or None (for both, default)
adapter_infos = list_adapters(source="hf", model_name="FacebookAI/roberta-base")

如果您想了解如何加载特定模型，可以点击“在 Adapters 中使用”，您将获得一个可加载的工作代码片段！

分享您的模型

有关使用 Adapters 共享模型的完整指南，我们建议查阅官方指南。

您可以通过对已包含适配器的模型使用 `push_adapter_to_hub` 方法来共享您的适配器。

model.push_adapter_to_hub(
    "my-awesome-adapter",
    "awesome_adapter",
    adapterhub_tag="sentiment/imdb",
    datasets_tag="imdb"
)

此命令将创建一个包含自动生成的模型卡和所有必要元数据的仓库。

其他资源

• Adapters 仓库
• Adapters 文档
• Adapters 论文
• 与 Hub 的集成文档