generation/stopping_criteria

• generation/stopping_criteria
  • .StoppingCriteria
    • ._call(input_ids, scores) ⇒ Array.<boolean>
  • .StoppingCriteriaList
    • new StoppingCriteriaList()
    • .push(item)
    • .extend(items)
  • .MaxLengthCriteria
    • new MaxLengthCriteria(max_length, [max_position_embeddings])
  • .EosTokenCriteria
    • new EosTokenCriteria(eos_token_id)
    • ._call(input_ids, scores) ⇒ Array.<boolean>
  • .InterruptableStoppingCriteria

---

generation/stopping_criteria.StoppingCriteria

可应用于生成过程中的所有停止条件的抽象基类。

类型: generation/stopping_criteria 的静态类

---

stoppingCriteria._call(input_ids, scores) ⇒ Array. < boolean >

类型: StoppingCriteria 的实例方法
返回值: Array.<boolean> - 一个布尔值列表，指示是否应停止每个序列。

参数	类型	描述
input_ids	Array.<Array<number>>	(number[][] 形状为 (batch_size, sequence_length)): 词汇表中输入序列标记的索引。
scores	Array.<Array<number>>	scores (number[][] 形状为 (batch_size, config.vocab_size)): 语言建模头的预测分数。这些可以是 SoftMax 之前每个词汇标记的分数，也可以是 SoftMax 之后每个词汇标记的分数。

---

generation/stopping_criteria.StoppingCriteriaList

类型: generation/stopping_criteria 的静态类

• .StoppingCriteriaList
  • new StoppingCriteriaList()
  • .push(item)
  • .extend(items)

---

new StoppingCriteriaList()

构造 StoppingCriteriaList 的新实例。

---

stoppingCriteriaList.push(item)

向列表中添加新的停止条件。

类型: StoppingCriteriaList 的实例方法

参数	类型	描述
item	StoppingCriteria	要添加的停止条件。

---

stoppingCriteriaList.extend(items)

向列表中添加多个停止条件。

类型: StoppingCriteriaList 的实例方法

参数	类型	描述
items	StoppingCriteria | StoppingCriteriaList | Array<StoppingCriteria>	要添加的停止条件。

---

generation/stopping_criteria.MaxLengthCriteria

此类可用于在生成的完整标记数超过 max_length 时停止生成。请记住，对于仅解码器类型的 Transformer，这将包括初始提示的标记。

类型: generation/stopping_criteria 的静态类

---

new MaxLengthCriteria(max_length, [max_position_embeddings])

参数	类型	默认	描述
max_length	number		输出序列可以具有的最大长度（以标记数计）。
[max_position_embeddings]	number		最大模型长度，由模型的 config.max_position_embeddings 属性定义。

---

generation/stopping_criteria.EosTokenCriteria

此类可用于在生成 “序列结束” 标记时停止生成。默认情况下，它使用 model.generation_config.eos_token_id。

类型: generation/stopping_criteria 的静态类

• .EosTokenCriteria
  • new EosTokenCriteria(eos_token_id)
  • ._call(input_ids, scores) ⇒ Array.<boolean>

---

new EosTokenCriteria(eos_token_id)

参数	类型	描述
eos_token_id	number | Array<number>	序列结束 标记的 ID。可以选择使用列表来设置多个序列结束 标记。

---

eosTokenCriteria._call(input_ids, scores) ⇒ Array. < boolean >

类型: EosTokenCriteria 的实例方法

参数	类型
input_ids	Array.<Array<number>>
scores	Array.<Array<number>>

---

generation/stopping_criteria.InterruptableStoppingCriteria

此类可用于在用户中断流程时停止生成。

类型: generation/stopping_criteria 的静态类

---

< > 在 GitHub 上更新