生成/停止条件
- 生成/停止条件
生成/停止条件.StoppingCriteria
所有在生成期间可应用的停止条件的抽象基类。
类型: 生成/停止条件 的静态类
stoppingCriteria._call(input_ids, scores) ⇒ <code> Array. < boolean > </code>
类型: StoppingCriteria 的实例方法
返回: Array.<boolean> - 一个布尔值列表，指示每个序列是否应停止。
| 参数 | 类型 | 描述 |
|---|---|---|
| input_ids | Array.<Array<number>> | ( |
| scores | Array.<Array<number>> | scores ( |
生成/停止条件.StoppingCriteriaList
类型: 生成/停止条件 的静态类
new StoppingCriteriaList()
构造一个新的 StoppingCriteriaList 实例。
stoppingCriteriaList.push(item)
将一个新的停止条件添加到列表中。
Kind: StoppingCriteriaList 的实例方法
| 参数 | 类型 | 描述 |
|---|---|---|
| item | StoppingCriteria | 要添加的停止条件。 |
stoppingCriteriaList.extend(items)
将多个停止条件添加到列表中。
Kind: StoppingCriteriaList 的实例方法
| 参数 | 类型 | 描述 |
|---|---|---|
| items | StoppingCriteria | StoppingCriteriaList | Array<StoppingCriteria> | 要添加的停止条件。 |
generation/stopping_criteria.MaxLengthCriteria
此类可用于在生成的令牌总数超过 max_length 时停止生成。请记住，对于仅解码器类型的 transformers，这将包括最初提示的令牌。
类型: 生成/停止条件 的静态类
new MaxLengthCriteria(max_length, [max_position_embeddings])
| 参数 | 类型 | 默认 | 描述 |
|---|---|---|---|
| max_length | number | 输出序列可以具有的最大长度（以令牌数表示）。 | |
| [max_position_embeddings] | number | | 模型的最大长度，由模型的 |
generation/stopping_criteria.EosTokenCriteria
此类可用于在生成“序列结束”令牌时停止生成。默认情况下，它使用 model.generation_config.eos_token_id。
类型: 生成/停止条件 的静态类
- .EosTokenCriteria
new EosTokenCriteria(eos_token_id)._call(input_ids, scores)⇒Array.<boolean>
new EosTokenCriteria(eos_token_id)
| 参数 | 类型 | 描述 |
|---|---|---|
| eos_token_id | number | Array<number> | 序列结束令牌的 ID。可以选择使用列表设置多个序列结束令牌。 |
eosTokenCriteria._call(input_ids, scores) ⇒ <code> Array. < boolean > </code>
Kind: EosTokenCriteria 的实例方法
| 参数 | 类型 |
|---|---|
| input_ids | Array.<Array<number>> |
| scores | Array.<Array<number>> |
generation/stopping_criteria.InterruptableStoppingCriteria
此类可用于在用户中断进程时停止生成。
类型: 生成/停止条件 的静态类
< > 在 GitHub 上更新