Interface: TextGenerationStreamPrefillToken

Propriedades

id

• id: number

ID do token do tokenizador do modelo

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:23

---

logprob

• Optional logprob: number

Logprob Opcional, pois o logprob do primeiro token não pode ser calculado

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:30

---

text

• texto: string

Texto do token

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:25

Update on GitHub