生成/停止条件

• 生成/停止条件
  • .StoppingCriteria
    • ._call(input_ids, scores) ⇒ Array.<boolean>
  • .StoppingCriteriaList
    • new StoppingCriteriaList()
    • .push(item)
    • .extend(items)
  • .MaxLengthCriteria
    • new MaxLengthCriteria(max_length, [max_position_embeddings])
  • .EosTokenCriteria
    • new EosTokenCriteria(eos_token_id)
    • ._call(input_ids, scores) ⇒ Array.<boolean>
  • .InterruptableStoppingCriteria

---

生成/停止条件.StoppingCriteria

可在生成过程中应用的所有停止条件的抽象基类。

种类：generation/stopping_criteria 的静态类

---

stoppingCriteria._call(input_ids, scores) ⇒ <code> Array. < boolean > </code>

种类：StoppingCriteria 的实例方法
返回：Array.<boolean> - 指示每个序列是否应停止的布尔值列表。

参数量	类型	描述
input_ids	Array.<Array<number>>	（形状为 (batch_size, sequence_length) 的 number[][]）：词汇表中输入序列标记的索引。
scores	Array.<Array<number>>	scores（形状为 (batch_size, config.vocab_size) 的 number[][]）：语言建模头的预测分数。这些可以是 SoftMax 之前的每个词汇标记的分数，也可以是 SoftMax 之后的每个词汇标记的分数。

---

生成/停止条件.StoppingCriteriaList

种类：generation/stopping_criteria 的静态类

• .StoppingCriteriaList
  • new StoppingCriteriaList()
  • .push(item)
  • .extend(items)

---

new StoppingCriteriaList()

构造 StoppingCriteriaList 的新实例。

---

stoppingCriteriaList.push(item)

向列表中添加新的停止条件。

种类：StoppingCriteriaList 的实例方法

参数量	类型	描述
item	StoppingCriteria	要添加的停止条件。

---

stoppingCriteriaList.extend(items)

向列表中添加多个停止条件。

种类：StoppingCriteriaList 的实例方法

参数量	类型	描述
items	StoppingCriteria | StoppingCriteriaList | Array<StoppingCriteria>	要添加的停止条件。

---

生成/停止条件.MaxLengthCriteria

此类可用于在生成的总标记数超过 max_length 时停止生成。请记住，对于仅解码器类型的转换器，这将包括初始提示标记。

种类：generation/stopping_criteria 的静态类

---

new MaxLengthCriteria(max_length, [max_position_embeddings])

参数量	类型	默认	描述
max_length	数字		输出序列可以拥有的最大标记数。
[max_position_embeddings]	数字		模型的最大长度，由模型的 config.max_position_embeddings 属性定义。

---

生成/停止条件.EosTokenCriteria

此类可用于在生成“序列结束”标记时停止生成。默认情况下，它使用 model.generation_config.eos_token_id。

种类：generation/stopping_criteria 的静态类

• .EosTokenCriteria
  • new EosTokenCriteria(eos_token_id)
  • ._call(input_ids, scores) ⇒ Array.<boolean>

---

new EosTokenCriteria(eos_token_id)

参数量	类型	描述
eos_token_id	number | Array<number>	“序列结束”标记的 ID。可选地，使用列表来设置多个“序列结束”标记。

---

eosTokenCriteria._call(input_ids, scores) ⇒ <code> Array. < boolean > </code>

种类：EosTokenCriteria 的实例方法

参数量	类型
input_ids	Array.<Array<number>>
scores	Array.<Array<number>>

---

生成/停止条件.InterruptableStoppingCriteria

此类可用于在用户中断进程时停止生成。

种类：generation/stopping_criteria 的静态类

---

< > 在 GitHub 上更新