Interfaz: TextGenerationStreamDetails

Propiedades

mejor _ de _ secuencias

• Optional best_of_sequences: TextGenerationStreamBestOfSequence[]

Secuencias adicionales al usar el parámetro best_of

Definido en

inference/src/tasks/nlp/textGenerationStream.ts:68

---

finalizar _ razón

• finish_reason: TextGenerationStreamFinishReason

Motivo de finalización de la generación

Definido en

inference/src/tasks/nlp/textGenerationStream.ts:58

---

tokens generados

• generated_tokens: number

Número de tokens generados

Definido en

inference/src/tasks/nlp/textGenerationStream.ts:60

---

prefill

• prefill: TextGenerationStreamPrefillToken[]

Tokens de prompt

Definido en

inference/src/tasks/nlp/textGenerationStream.ts:64

---

seed

• Optional seed: number

Semilla de muestreo si el muestreo estaba activado

Definido en

inference/src/tasks/nlp/textGenerationStream.ts:62

---

tokens

• fichas: TextGenerationStreamToken[]

Definido en

inference/src/tasks/nlp/textGenerationStream.ts:66

Update on GitHub