AWS Trainium & Inferentia

🤗 Optimum Neuron

🤗 Optimum Neuron 是 🤗 Transformers 库和 AWS 加速器（包括 AWS Trainium 和 AWS Inferentia）之间的接口。它提供了一套工具，可以在单加速器和多加速器设置中轻松加载、训练和推理模型，以用于不同的下游任务。官方验证的模型和任务列表请见此处。

学习基础知识，熟悉在 AWS Trainium 和 AWS Inferentia 上训练和部署 transformers。如果你是第一次使用 🤗 Optimum Neuron，请从这里开始！

帮助你实现特定目标的实用指南。查看这些指南，了解如何使用 🤗 Optimum Neuron 解决实际问题。

🤗 Optimum Neuron 的类和方法如何工作的技术描述。