文本生成推理文档
使用 TGI 与 Intel Gaudi
并获得增强型文档体验
开始使用
查看此 存储库,以使用 TGI 在 Gaudi 和 Gaudi2 上使用 Optimum Habana 提供服务模型。