简介
在 第三章 中,您了解了如何微调文本分类模型。在本章中,我们将解决以下常见的 NLP 任务
- 词性标注
- 掩码语言建模(如 BERT)
- 摘要
- 翻译
- 因果语言模型预训练(如 GPT-2)
- 问答
为此,您需要利用在 第三章 中学习到的关于 Trainer
API 和 🤗 Accelerate 库的所有知识,以及在 第五章 中学习到的 🤗 Datasets 库和在 第六章 中学习到的 🤗 Tokenizers 库。我们还将像在 第四章 中一样将我们的结果上传到模型中心,因此这确实是所有内容汇集在一起的一章!
每个部分都可以独立阅读,并向您展示如何使用 Trainer
API 或您自己的训练循环(使用 🤗 Accelerate)训练模型。您可以随意跳过任一部分,并专注于您最感兴趣的部分:Trainer
API 非常适合微调或训练您的模型,而无需担心幕后发生的事情,而使用 Accelerate
的训练循环可以让您更轻松地自定义任何您想要的部件。
如果您按顺序阅读这些部分,您会注意到它们在代码和文本方面有相当多的共同点。重复是故意的,以便您可以深入了解(或稍后再回来)任何您感兴趣的任务,并找到一个完整的可工作示例。