接口:TextGenerationStreamBestOfSequence
属性
finish_reason
• finish_reason: TextGenerationStreamFinishReason
生成结束原因
定义于
inference/src/tasks/nlp/textGenerationStream.ts:35
generated_text
• generated_text: string
生成的文本
定义于
inference/src/tasks/nlp/textGenerationStream.ts:33
generated_tokens
• generated_tokens: number
生成的token数量
定义于
inference/src/tasks/nlp/textGenerationStream.ts:37
预填充
• prefill: TextGenerationStreamPrefillToken
[]
提示词标记
定义于
inference/src/tasks/nlp/textGenerationStream.ts:41
种子
• 可选
seed: number
如果启用了采样,则为采样种子
定义于
inference/src/tasks/nlp/textGenerationStream.ts:39
标记
• tokens: TextGenerationStreamToken
[]
生成的标记
定义于
inference/src/tasks/nlp/textGenerationStream.ts:43
< > 在 GitHub 上更新