AWS Trainium & Inferentia

🤗 Optimum Neuron

🤗 Optimum Neuron 是 🤗 Transformers 库与 AWS 加速器（包括 AWS Trainium 和 AWS Inferentia）之间的接口。它提供了一套工具，可以在单加速器和多加速器设置中为不同的下游任务轻松加载、训练和推理模型。官方验证的模型和任务列表可在此处找到：这里。

教程

学习基础知识，熟悉在 AWS Trainium 和 AWS Inferentia 上训练和部署 transformers。如果您是首次使用 🤗 Optimum Neuron，请从这里开始！

操作指南

帮助您实现特定目标的实用指南。查看这些指南，了解如何使用 🤗 Optimum Neuron 解决实际问题。

参考

关于 🤗 Optimum Neuron 的类和方法如何工作的技术描述。