Hub 文档

GGUF 与 GPT4All 的使用

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

GGUF 与 GPT4All 的使用

GPT4All 是由 Nomic 开发的开源 LLM 应用程序。2.7.2 版本引入了一个全新的实验性功能,名为 Model Discovery

Model Discovery 提供了一种内置的方式来搜索和下载来自 Hub 的 GGUF 模型。要开始使用,请打开 GPT4All 并点击 Download Models。在这里,您可以使用搜索栏来查找模型。

在您选择并下载模型后,您可以转到 Settings 并以 GPT4All 格式(%1%2 占位符)提供适当的提示模板。

然后从主页,您可以从已安装的模型列表中选择模型并开始对话。

< > 在 GitHub 上更新