Optimum 文档
概览
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
概述
欢迎来到适用于英特尔® Gaudi® AI 加速器的 Optimum 操作指南!
这些指南涵盖了更高级的主题,将向您展示如何轻松地从 HPU 中获得最佳性能。以下是您将找到的内容:
- 脚本适配:了解如何为英特尔 Gaudi 适配 Transformers/Diffusers 脚本
- 预训练模型:使用 Transformers 预训练模型的指南
- 加速训练:探索加速训练的技术
- 加速推理:了解如何优化推理以实现更快执行
- 使用 DeepSpeed:扩展您的训练以处理更大的模型
- 多节点训练:通过多节点设置加速运行
- 量化:探索 FP8 和 UINT4 量化以实现优化推理