Giao diện: TextGenerationStreamBestOfSequence

Thuộc tính

hoàn thành _ lý do

• finish_reason: TextGenerationStreamFinishReason

Lý do kết thúc sinh

Được định nghĩa trong

inference/src/tasks/nlp/textGenerationStream.ts:37

---

text được tạo

• generated_text: string

Văn bản được tạo

Được định nghĩa trong

inference/src/tasks/nlp/textGenerationStream.ts:35

---

số token đã tạo

• generated_tokens: number

Số lượng token được tạo

Được định nghĩa trong

inference/src/tasks/nlp/textGenerationStream.ts:39

---

prefill

• prefill: TextGenerationStreamPrefillToken[]

Token nhắc

Được định nghĩa trong

inference/src/tasks/nlp/textGenerationStream.ts:43

---

seed

• seed Optional: number

Hạt ngẫu nhiên khi lấy mẫu nếu việc lấy mẫu đã được kích hoạt

Được định nghĩa trong

inference/src/tasks/nlp/textGenerationStream.ts:41

---

tokens

• tokens: TextGenerationStreamToken[]

Token được tạo

Được định nghĩa trong

inference/src/tasks/nlp/textGenerationStream.ts:45

Update on GitHub