Hugging Face 的 logo

文本生成推理文档

使用 TGI 与 Inferentia

Hugging Face's logo
加入 Hugging Face 社区

并获得增强型文档体验

以开始

使用 TGI 与 Inferentia

查看此 指南，了解如何在 Inferentia2 上使用 TGI 服务模型。

< > 更新 on GitHub

←使用 TGI 与 Intel Gaudi 使用 TGI 与 Intel GPU→