访问私有/受限模型
由于可能将访问令牌泄露给您网站或 Web 应用程序的用户,我们只支持从服务器端环境(例如 Node.js)访问私有/受限模型,这些环境可以访问进程的环境变量。
步骤 1:生成用户访问令牌
用户访问令牌 是向 Hugging Face 服务验证应用程序的首选方式。
要生成访问令牌,请导航到您设置中的 访问令牌选项卡,然后单击“新建令牌”按钮。为您的令牌选择一个名称,然后单击“生成令牌”(我们建议将“角色”保留为只读)。然后,您可以单击新创建的令牌旁边的“复制”按钮将其复制到剪贴板。
要删除或刷新用户访问令牌,您可以单击“管理”按钮。
步骤 2:在 Transformers.js 中使用访问令牌
当设置了 HF_TOKEN
环境变量并且进程可以看到它时,Transformers.js 会将授权标头附加到对 Hugging Face Hub 的请求。
一种方法是使用设置了环境变量的命令调用您的程序。例如,假设您有一个名为 llama.js
的文件,其中包含以下代码
import { AutoTokenizer } from '@huggingface/transformers';
// Load tokenizer for a gated repository.
const tokenizer = await AutoTokenizer.from_pretrained('meta-llama/Llama-2-7b-hf');
// Encode text.
const text = 'Hello world!';
const encoded = tokenizer.encode(text);
console.log(encoded);
然后,您可以使用以下命令设置 HF_TOKEN
环境变量并运行该文件
HF_TOKEN=hf_... node tests/llama.js
(请记住将 hf_...
替换为您的实际访问令牌)。
如果操作正确,您应该看到以下输出
[ 1, 15043, 3186, 29991 ]
或者,您可以在代码中直接设置环境变量
// Set access token (NB: Keep this private!)
process.env.HF_TOKEN = 'hf_...';
// ... rest of your code