Antarmuka: ModelConfig

Properti

expert _ dtype

• Optional expert_dtype: string

Beberapa MoE menyimpan para ahli mereka pada presisi yang lebih sempit daripada bagian lain dari model dan mendeklarasikannya di sini, di luar quantization_config (misalnya DeepSeek-V4). Digunakan sebagai cadangan ketika konfigurasi kuantisasi tidak mendeklarasikan expert_dtype miliknya sendiri (seperti yang dilakukan DeepSeek-V4.1).

Didefinisikan di

packages/hub/src/lib/parse-safetensors-metadata.ts:968

---

kuantisasi

• Optional kuantisasi: MlxQuantizationConfig

Format MLX saat ini, opsional dengan penimpaan per modul yang dikunci berdasarkan nama modul.

Didefinisikan di

packages/hub/src/lib/parse-safetensors-metadata.ts:960

---

konfigurasi kuantisasi

• Optional quantization_config: QuantizationConfig | MlxQuantizationConfig

Didefinisikan di

packages/hub/src/lib/parse-safetensors-metadata.ts:961

---

teks _ config

• Optional text_config: Pick<ModelConfig, "expert_dtype" | "quantization" | "quantization_config">

Didefinisikan di

packages/hub/src/lib/parse-safetensors-metadata.ts:962

Update on GitHub