Hugging Face's logo
加入 Hugging Face 社区

并获得增强文档体验

开始使用

使用 GPT4All 的 GGUF

GPT4All 是由 Nomic 开发的一个开源 LLM 应用程序。2.7.2 版引入了一项全新的实验性功能,称为 模型发现

模型发现 提供了一种内置方式来搜索和下载 Hub 上的 GGUF 模型。要开始使用,请打开 GPT4All 并点击 下载模型。在这里,您可以使用搜索栏查找模型。

选择并下载模型后,您可以转到 设置 并以 GPT4All 格式(%1%2 占位符)提供合适的提示模板。

然后在主页面上,您可以从已安装模型列表中选择模型并开始对话。

< > 更新 在 GitHub 上