text-generation-inference 文档

在 Google TPU 上使用 TGI

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

在 Google TPU 上使用 TGI

查看这份关于如何在 TPU 上使用 TGI 服务模型的指南

< > 更新 在 GitHub 上