인터페이스: ModelConfig

속성

expert _ dtype

• Optional expert_dtype: string

일부 MoE는 모델의 나머지 부분보다 더 낮은 정밀도로 전문가를 저장하며, 이를 quantization_config 외부에서 선언합니다(예: DeepSeek-V4). quantization config가 자체 expert_dtype을 선언하지 않는 경우(DeepSeek-V4.1과 같이) 폴백으로 사용됩니다.

정의 위치

packages/hub/src/lib/parse-safetensors-metadata.ts:968

---

양자화

• Optional 양자화: MlxQuantizationConfig

현재 MLX 형식이며, 모듈 이름으로 키를 지정하여 모듈별 오버라이드를 선택적으로 사용할 수 있습니다.

정의 위치

packages/hub/src/lib/parse-safetensors-metadata.ts:960

---

양자화 _ 구성

• Optional quantization_config: QuantizationConfig | MlxQuantizationConfig

정의 위치

packages/hub/src/lib/parse-safetensors-metadata.ts:961

---

text _ config

• Optional text_config: Pick<ModelConfig, "expert_dtype" | "quantization" | "quantization_config">

정의 위치

packages/hub/src/lib/parse-safetensors-metadata.ts:962

Update on GitHub