单 HPU 训练

在单个设备上进行训练与在 Transformers 中一样简单

• 您需要将 Transformers 的 Trainer 类替换为 GaudiTrainer 类，
• 您需要将 Transformers 的 TrainingArguments 类替换为 GaudiTrainingArguments 类，并添加以下参数
  • use_habana 用于在 HPU 上执行脚本，
  • use_lazy_mode 用于使用延迟模式（推荐）或不使用延迟模式（即，急切模式），
  • gaudi_config_name 用于提供 Gaudi 配置文件（Hub 或本地路径）的名称。

为了进一步了解，我们邀请您阅读我们关于加速训练和预训练的指南。