Hub 文档

Spaces 上的 ChatUI

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

Spaces 上的 ChatUI

Hugging Chat 是一个开源界面,让所有人都能尝试开源大型语言模型,如 Falcon、StarCoder 和 BLOOM。借助名为 ChatUI 的官方 Docker 模板,你可以使用 Hugging Face 的基础设施,只需点击几下即可部署你自己的基于所选模型的 Hugging Chat。

部署你自己的 Chat UI

要开始使用,只需点击这里。此应用程序的后端使用 text-generation-inference 以实现更好的模型推理优化。由于这些模型无法在 CPU 上运行,你可以根据所选模型选择 GPU。

你需要提供一个 MongoDB 端点,你的聊天记录将写入到该端点。如果你将此部分留空,你的日志将持久化到 Space 内的数据库中。请注意,Hugging Face 无法访问你的聊天记录。你可以通过提供应用程序名称和应用程序颜色参数来配置 Space 的名称和主题。在此下方,你可以选择要提供服务的模型的 Hugging Face Hub ID。你还可以以 JSON 格式更改下面的字典中的生成超参数。

注意:如果你想部署一个具有受控访问权限的模型或一个私有仓库中的模型,你只需在仓库秘密中提供 HF_TOKEN。你需要将其值设置为你可以从这里获取的访问令牌。

创建完成后,你会在 Space 上看到 Building。构建完成后,你就可以尝试你自己的 HuggingChat 了!

开始聊天!

阅读更多

< > 在 GitHub 上更新

© . This site is unofficial and not affiliated with Hugging Face, Inc.