Transformers.js 文档

生成/参数

您正在查看 main 版本,该版本需要从源代码安装。如果您想进行常规 npm 安装,请查看最新的稳定版本 (v3.0.0)。
Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

生成/参数


generation/parameters~GenerationFunctionParameters : <code> Object </code>

类型generation/parameters 的内部类型定义

参数类型描述
[kwargs]任意类型

(Dict[str, any], 可选)

属性

名称类型默认值描述
[inputs]*

(Tensor,形状根据模态而变化,可选):用作生成提示或作为模型输入到编码器的序列。如果为 null,则该方法使用 bos_token_id 和批大小 1 初始化它。对于仅解码器模型,inputs 应采用 input_ids 的格式。对于编码器-解码器模型,inputs 可以表示 input_idsinput_valuesinput_featurespixel_values 中的任何一个。

[generation_config]*

(GenerationConfig可选):用作生成调用的基本参数化的生成配置。传递给 generate 的 **kwargs(与 generation_config 的属性匹配)将覆盖它们。如果未提供 generation_config,将使用默认值,默认值具有以下加载优先级

  • (1) 来自 generation_config.json 模型文件(如果存在);
  • (2) 来自模型配置。请注意,未指定的参数将继承 [GenerationConfig] 的默认值,应检查其文档以参数化生成。
[logits_processor]*

(LogitsProcessorList可选):补充从参数和生成配置构建的默认 logits 处理器的自定义 logits 处理器。如果传递的 logit 处理器已使用参数或生成配置创建,则会抛出错误。此功能适用于高级用户。

[stopping_criteria]*

(StoppingCriteriaList可选):补充从参数和生成配置构建的默认停止标准的自定义停止标准。如果传递的停止标准已使用参数或生成配置创建,则会抛出错误。此功能适用于高级用户。

[streamer]*

(BaseStreamer可选):将用于流式传输生成的序列的 Streamer 对象。生成的令牌通过 streamer.put(token_ids) 传递,并且 streamer 负责任何进一步的处理。

[decoder_input_ids]Array.<number>

(number[]可选):如果模型是编码器-解码器模型,则此参数用于传递 decoder_input_ids


< > 在 GitHub 上更新