GGUF 在 GPT4All 中的使用

GPT4All 是由 Nomic 开发的开源 LLM 应用程序。2.7.2 版本引入了一个全新的实验性功能，称为 Model Discovery。

Model Discovery 提供了一种内置方式来搜索和下载 Hub 中的 GGUF 模型。要开始使用，请打开 GPT4All 并点击 下载模型。从这里，您可以使用搜索栏查找模型。

选择并下载模型后，您可以进入 设置 并提供一个适合 GPT4All 格式（%1 和 %2 占位符）的提示模板。

然后从主页中，您可以从已安装模型列表中选择模型并开始对话。

< > 在 GitHub 上更新