Transformers.js 文档

生成/参数

您正在查看的是需要从源码安装。如果您想进行常规 npm 安装,请查看最新的稳定版本 (v3.0.0)。
Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

生成/参数


生成/参数~GenerationFunctionParameters : <code> Object </code>

类型generation/parameters 的内部类型定义

参数量类型描述
[kwargs]任何

(Dict[str, any], 可选)

属性

名称类型默认描述
[inputs]*

(Tensor,形状取决于模态,可选):用作生成提示或模型编码器输入的序列。如果为 null,该方法将使用 bos_token_id 和批量大小为 1 进行初始化。对于仅解码器模型,inputs 应采用 input_ids 格式。对于编码器-解码器模型,inputs 可以表示 input_idsinput_valuesinput_featurespixel_values 中的任何一个。

[generation_config]*

(GenerationConfig, 可选):用作生成调用基本参数化的生成配置。传递给生成与 generation_config 属性匹配的 **kwargs 将覆盖它们。如果未提供 generation_config,将使用默认值,其加载优先级如下:

  • (1) 如果存在,则从 generation_config.json 模型文件加载;
  • (2) 从模型配置加载。请注意,未指定的参数将继承 [GenerationConfig] 的默认值,应查看其文档以参数化生成。
[logits_processor]*

(LogitsProcessorList, 可选):补充从参数和生成配置构建的默认 logits 处理器。如果传递的 logits 处理器已使用参数或生成配置创建,则会引发错误。此功能适用于高级用户。

[stopping_criteria]*

(StoppingCriteriaList, 可选):补充从参数和生成配置构建的默认停止条件。如果传递的停止条件已使用参数或生成配置创建,则会引发错误。此功能适用于高级用户。

[streamer]*

(BaseStreamer, 可选):用于流式传输生成序列的流式传输器对象。生成的标记通过 streamer.put(token_ids) 传递,流式传输器负责任何进一步的处理。

[decoder_input_ids]Array.<number>

(number[], 可选):如果模型是编码器-解码器模型,此参数用于传递 decoder_input_ids


< > 在 GitHub 上更新