接口: TextGenerationStreamDetails

属性

best _ of _ sequences

• Optional best_of_sequences: TextGenerationStreamBestOfSequence[]

使用 best_of 参数时的附加序列

定义于

inference/src/tasks/nlp/textGenerationStream.ts:66

---

finish _ reason

• finish_reason: TextGenerationStreamFinishReason

生成完成原因

定义于

inference/src/tasks/nlp/textGenerationStream.ts:56

---

generated _ tokens

• generated_tokens: number

生成的标记数

定义于

inference/src/tasks/nlp/textGenerationStream.ts:58

---

预填充

• 预填充: TextGenerationStreamPrefillToken[]

提示词标记

定义于

inference/src/tasks/nlp/textGenerationStream.ts:62

---

种子

• Optional 种子: number

如果启用了采样，则为采样种子

定义于

inference/src/tasks/nlp/textGenerationStream.ts:60

---

标记

• 标记: TextGenerationStreamToken[]

定义于

inference/src/tasks/nlp/textGenerationStream.ts:64

< > 在 GitHub 上更新