Hub 文档
Spaces 上的 ChatUI
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
Spaces 上的 ChatUI
Hugging Chat 是一个开源界面,使每个人都可以尝试开源大型语言模型,例如 Falcon、StarCoder 和 BLOOM。 借助名为 ChatUI 的官方 Docker 模板,您可以使用 Hugging Face 的基础设施,只需点击几下即可部署您自己基于您选择的模型的 Hugging Chat。
部署你自己的 Chat UI
要开始使用,只需访问此处。在此应用程序的后端,text-generation-inference 用于更好地优化模型推理。由于这些模型无法在 CPU 上运行,您可以根据您选择的模型选择 GPU。

您应该提供一个 MongoDB 端点,您的聊天记录将写入其中。如果您将此部分留空,您的日志将持久保存在 Space 内的数据库中。请注意,Hugging Face 无法访问您的聊天记录。您可以通过提供应用程序名称和应用程序颜色参数来配置 Space 的名称和主题。在此下方,您可以选择您希望服务的模型的 Hugging Face Hub ID。您还可以在下面的字典中以 JSON 格式更改生成超参数。
注意:如果您想部署具有门控访问权限的模型或私有存储库中的模型,您只需在存储库密钥中提供 HF_TOKEN
即可。 您需要将其值设置为您可以从此处获取的访问令牌。

创建完成后,您将在您的 Space 上看到 Building
。构建完成后,您就可以尝试您自己的 HuggingChat 了!

开始聊天吧!
