在 Huggingface Spaces 上运行

如果您不想自己配置、设置和启动 Chat UI，可以使用此选项作为快速部署替代方案。

您可以在 Hugging Face Spaces 上使用您选择的任何受支持的 LLM 部署您自己的自定义 Chat UI 实例。为此，请使用此处提供的 chat-ui 模板。

在 Space secrets 中设置 HF_TOKEN 以部署具有门控访问权限的模型或私有存储库中的模型。它还与 Inference for PROs 精选的强大模型列表（具有更高的速率限制）兼容。请务必先在您的用户访问令牌设置中创建您的个人令牌。

阅读此处的完整教程。