AWS Trainium & Inferentia 文档
🤗 Optimum Neuron
加入 Hugging Face 社区
并获取增强的文档体验
开始使用
🤗 Optimum Neuron
🤗 Optimum Neuron 是 🤗 Transformers 库和 AWS 加速器(包括 AWS Trainium 和 AWS Inferentia)之间的接口。它提供了一套工具,可以在单加速器和多加速器设置中轻松加载、训练和推理模型,以用于不同的下游任务。 官方验证的模型和任务列表请见此处。