Hub文档

Spaces上的ChatUI

Hugging Face's logo
加入 Hugging Face 社区

并获得增强型文档体验

开始使用

Spaces 上的 ChatUI

Hugging Chat 是一款开源界面,使每个人都能尝试 Falcon、StarCoder 和 BLOOM 等开源大型语言模型。借助名为 ChatUI 的官方 Docker 模板,您可以使用 Hugging Face 的基础设施,只需点击几下即可根据您选择的模型部署您自己的 Hugging Chat。

部署您自己的 Chat UI

要开始,只需前往此处。在此应用程序的后端,text-generation-inference 用于更好地优化模型推理。由于这些模型无法在 CPU 上运行,因此您可以根据您选择的模型选择 GPU。

您应该提供一个 MongoDB 端点,您的聊天内容将写入其中。如果您将此部分留空,您的日志将持久保存到 Space 内部的数据库中。请注意,Hugging Face 无法访问您的聊天内容。您可以通过提供应用程序名称和应用程序颜色参数来配置 Space 的名称和主题。在此下方,您可以选择要提供的模型在 Hugging Face Hub 上的 ID。您也可以在下面的 JSON 格式字典中更改生成超参数。

注意:如果您想部署一个具有访问控制的模型或私有存储库中的模型,您只需在存储库的机密信息中提供HF_TOKEN即可。您需要将其值设置为可以从此处获取的访问令牌。

创建完成后,您将在您的 Space 上看到“构建中”。构建完成后,您可以尝试您自己的 HuggingChat!

开始聊天!

阅读更多

< > 在 GitHub 上更新