text-generation-inference 文档
使用 TGI 与 Inferentia
并获得增强的文档体验
开始使用
您可以使用 TGI neuron 后端在 AWS Trainium 和 Inferentia 平台上使用 TGI。