模型
数据集
空间
帖子
文档
定价
登录
注册

NLP 课程文档

章节末尾测验

NLP 课程

0. 设置

1. Transformer 模型

2. 使用 🤗 Transformers

3. 微调预训练模型

介绍处理数据使用 Trainer API 或 Keras 微调模型完整训练微调，完成！章节末尾测验

4. 分享模型和分词器

5. 🤗 数据集库

6. 🤗 分词器库

7. 主要 NLP 任务

8. 如何寻求帮助

9. 构建和分享演示新

课程活动

加入 Hugging Face 社区

并获得增强型文档体验

协作模型、数据集和空间

使用加速推理更快地执行示例

在文档主题之间切换

开始使用

Pytorch TensorFlow

章节末尾测验

测试你在本章中学到的内容！

1. 情感数据集包含带有情感标签的 Twitter 消息。在 Hub 中搜索它，并阅读数据集卡片。以下哪个不是它的基本情感之一？

快乐爱困惑惊讶

2. 在 Hub 中搜索 ar_sarcasm 数据集。它支持什么任务？

情感分类机器翻译命名实体识别问答

3. BERT 模型如何处理一对句子？

句子 1 的 Token [SEP] 句子 2 的 Token [CLS] 句子 1 的 Token 句子 2 的 Token [CLS] 句子 1 的 Token [SEP] 句子 2 的 Token [SEP] [CLS] 句子 1 的 Token [SEP] 句子 2 的 Token

4. Dataset.map() 方法的优势是什么？

函数的结果被缓存，因此如果我们重新执行代码，它将不会花费任何时间。它可以应用多进程以比对数据集中的每个元素应用函数更快。它不会将整个数据集加载到内存中，而是尽快处理一个元素就保存结果。

5. 动态填充是什么意思？

它是在你对整个数据集中的最大长度填充输入时。它是在你创建批次时填充输入时，填充到该批次中句子最大长度。它是指你填充你的输入，以便每个句子都具有与数据集中上一个句子相同的 token 数量。

7. 当你使用一个预训练语言模型（如 bert-base-uncased ）实例化 AutoModelForXxx 类时，它对应于与训练该模型的任务不同的任务，会发生什么？

什么都没有，但你会收到警告。预训练模型的头部被丢弃，取而代之的是一个适合该任务的新头部。预训练模型的头部被丢弃。什么都没有，因为模型仍然可以针对不同的任务进行微调。

8. TrainingArguments 的目的是什么？

它包含了使用 Trainer 进行训练和评估的所有超参数。它指定了模型的大小。它只包含用于评估的超参数。它只包含用于训练的超参数。

9. 为什么你应该使用 🤗 Accelerate 库？

它提供了访问更快的模型。它提供了一个高级 API，因此我不必实现自己的训练循环。它使我们的训练循环在分布式策略上运行。它提供了更多优化函数。

←微调，完成！

本章结束测试 1. 情感数据集包含用情感标记的 Twitter 消息。在 Hub 中搜索它，并阅读数据集卡片。以下哪个不是它的基本情感？ 2. 在 Hub 中搜索 ar_sarcasm 数据集。它支持哪项任务？ 3. BERT 模型如何预期处理一对句子？ 4. Dataset.map() 方法的优点是什么？ 5. 动态填充是什么意思？ 6. 整理函数的目的是什么？ 7. 当你使用一个预训练语言模型（如 bert-base-uncased ）实例化 AutoModelForXxx 类时，它对应于与训练该模型的任务不同的任务，会发生什么？ 8. TrainingArguments 的目的是什么？ 9. 为什么你应该使用 🤗 Accelerate 库？ 4. 当你使用一个预训练语言模型（如 bert-base-uncased ）实例化 TFAutoModelForXxx 类时，它对应于与训练该模型的任务不同的任务，会发生什么？ 5. Transformers 中的 TensorFlow 模型已经是 Keras 模型。这提供了什么好处？ 6. 如何定义自己的自定义指标？