Transformers.js 文档

访问私有/受限模型

Hugging Face's logo
加入 Hugging Face 社区

并获得增强型文档体验

开始

访问私有/受限模型

由于可能将访问令牌泄露给您网站或 Web 应用程序的用户,我们只支持从服务器端环境(例如 Node.js)访问私有/受限模型,这些环境可以访问进程的环境变量。

步骤 1:生成用户访问令牌

用户访问令牌 是向 Hugging Face 服务验证应用程序的首选方式。

要生成访问令牌,请导航到您设置中的 访问令牌选项卡,然后单击“新建令牌”按钮。为您的令牌选择一个名称,然后单击“生成令牌”(我们建议将“角色”保留为只读)。然后,您可以单击新创建的令牌旁边的“复制”按钮将其复制到剪贴板。

要删除或刷新用户访问令牌,您可以单击“管理”按钮。

步骤 2:在 Transformers.js 中使用访问令牌

当设置了 HF_TOKEN 环境变量并且进程可以看到它时,Transformers.js 会将授权标头附加到对 Hugging Face Hub 的请求。

一种方法是使用设置了环境变量的命令调用您的程序。例如,假设您有一个名为 llama.js 的文件,其中包含以下代码

import { AutoTokenizer } from '@huggingface/transformers';

// Load tokenizer for a gated repository.
const tokenizer = await AutoTokenizer.from_pretrained('meta-llama/Llama-2-7b-hf');

// Encode text.
const text = 'Hello world!';
const encoded = tokenizer.encode(text);
console.log(encoded);

然后,您可以使用以下命令设置 HF_TOKEN 环境变量并运行该文件

HF_TOKEN=hf_... node tests/llama.js

(请记住将 hf_... 替换为您的实际访问令牌)。

如果操作正确,您应该看到以下输出

[ 1, 15043, 3186, 29991 ]

或者,您可以在代码中直接设置环境变量

// Set access token (NB: Keep this private!)
process.env.HF_TOKEN = 'hf_...';

// ... rest of your code
< > 在 GitHub 上更新