访问私有/受限模型

第一步：生成用户访问令牌

用户访问令牌是应用程序对 Hugging Face 服务进行身份验证的首选方式。

要生成访问令牌，请导航至您设置中的访问令牌选项卡，然后点击 New token (新建令牌) 按钮。为您的令牌选择一个名称，然后点击 Generate a token (生成一个令牌) (我们建议将“Role (角色)”保留为只读)。然后，您可以点击新创建的令牌旁边的 Copy (复制) 按钮，将其复制到剪贴板。

要删除或刷新用户访问令牌，您可以点击 Manage (管理) 按钮。

第二步：在 Transformers.js 中使用访问令牌

当 HF_TOKEN 环境变量被设置并对进程可见时，Transformers.js 会在向 Hugging Face Hub 发出的请求中附加一个 Authorization (授权) 标头。

一种方法是在调用程序时设置环境变量。例如，假设你有一个名为 llama.js 的文件，其代码如下：

import { AutoTokenizer } from '@huggingface/transformers';

// Load tokenizer for a gated repository.
const tokenizer = await AutoTokenizer.from_pretrained('meta-llama/Llama-2-7b-hf');

// Encode text.
const text = 'Hello world!';
const encoded = tokenizer.encode(text);
console.log(encoded);

然后，您可以使用以下命令来设置 HF_TOKEN 环境变量并运行该文件：

HF_TOKEN=hf_... node tests/llama.js

（请记住将 hf_... 替换为您实际的访问令牌）。

如果操作正确，您应该会看到以下输出：

[ 1, 15043, 3186, 29991 ]

或者，您也可以直接在代码中设置环境变量：

// Set access token (NB: Keep this private!)
process.env.HF_TOKEN = 'hf_...';

// ... rest of your code