NLP 课程文档

简介

Hugging Face's logo
加入 Hugging Face 社区

并获取增强文档体验

开始使用

简介

Ask a Question

第三章 中,您了解了如何微调文本分类模型。在本章中,我们将解决以下常见的 NLP 任务

  • 词性标注
  • 掩码语言建模(如 BERT)
  • 摘要
  • 翻译
  • 因果语言模型预训练(如 GPT-2)
  • 问答

为此,您需要利用在 第三章 中学习到的关于 Trainer API 和 🤗 Accelerate 库的所有知识,以及在 第五章 中学习到的 🤗 Datasets 库和在 第六章 中学习到的 🤗 Tokenizers 库。我们还将像在 第四章 中一样将我们的结果上传到模型中心,因此这确实是所有内容汇集在一起的一章!

每个部分都可以独立阅读,并向您展示如何使用 Trainer API 或您自己的训练循环(使用 🤗 Accelerate)训练模型。您可以随意跳过任一部分,并专注于您最感兴趣的部分:Trainer API 非常适合微调或训练您的模型,而无需担心幕后发生的事情,而使用 Accelerate 的训练循环可以让您更轻松地自定义任何您想要的部件。

如果您按顺序阅读这些部分,您会注意到它们在代码和文本方面有相当多的共同点。重复是故意的,以便您可以深入了解(或稍后再回来)任何您感兴趣的任务,并找到一个完整的可工作示例。