接口：TextGenerationStreamDetails

属性

best _ of _ sequences

• 可选 best_of_sequences: TextGenerationStreamBestOfSequence[]

当使用 best_of 参数时的附加序列

定义于

inference/src/tasks/nlp/textGenerationStream.ts:66

---

finish _ reason

• finish_reason: TextGenerationStreamFinishReason

生成结束原因

定义于

inference/src/tasks/nlp/textGenerationStream.ts:56

---

generated _ tokens

• generated_tokens: number

生成的 token 数量

定义于

inference/src/tasks/nlp/textGenerationStream.ts:58

---

prefill

• prefill: TextGenerationStreamPrefillToken[]

Prompt tokens

定义于

inference/src/tasks/nlp/textGenerationStream.ts:62

---

seed

• 可选 seed: number

如果采样被激活，则为采样种子

定义于

inference/src/tasks/nlp/textGenerationStream.ts:60

---

tokens

• tokens: TextGenerationStreamToken[]

定义于

inference/src/tasks/nlp/textGenerationStream.ts:64

< > 在 GitHub 上更新