Transformers documentation
SarvamMLA
Ce modèle a été contribué à Hugging Face Transformers le 2026-11-19.
SarvamMLA
Aperçu
SarvamMLA est un modèle de langage Mixture of Experts (MoE) de 105 milliards de paramètres développé par Sarvam AI. Il utilise l'attention latente multi-têtes (Multi-head Latent Attention, MLA) combinée à un routage MoE creux, avec une architecture identique à celle de DeepSeek-V3.
Caractéristiques architecturales clés :
- Multi-head Latent Attention (MLA) : compression KV de rang faible avec RoPE découplé, réduisant la mémoire du cache KV tout en maintenant les performances.
- Sparse Mixture of Experts : 128 experts routés avec 8 actifs par jeton, plus 1 expert partagé. La première couche utilise un MLP dense.
- DeepSeek YaRN RoPE : prise en charge d'un contexte étendu jusqu'à 131K jetons via les embeddings de position rotatifs YaRN.
- Routing par sigmoïde avec top-k par groupe : routage par choix de jeton utilisant des scores sigmoïde avec correction de biais des experts et une sélection prenant en compte les groupes.
Ce modèle utilise l'architecture DeepSeek-V3 avec une configuration personnalisée. Consultez la documentation DeepSeek-V3 pour la référence du modèle et de la fonction forward.
Utilisation
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
"sarvamai/sarvam-105b",
device_map="auto",
)
tokenizer = AutoTokenizer.from_pretrained("sarvamai/sarvam-105b")
inputs = tokenizer("Hello, how are you?", return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=50)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))SarvamMLAConfig
classe transformers.SarvamMLAConfig
< source >( transformers_version: str | None = Nonearchitectures: list[str] | None = Noneoutput_hidden_states: bool | None = Falsereturn_dict: bool | None = Truedtype: str | torch.dtype | None = Nonechunk_size_feed_forward: int = 0is_encoder_decoder: bool = Falseid2label: dict[int, str] | dict[str, str] | None = Nonelabel2id: dict[str, int] | dict[str, str] | None = Noneproblem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = Nonevocab_size: int = 262144hidden_size: int = 4096intermediate_size: int = 16384moe_intermediate_size: int = 2048num_hidden_layers: int = 32num_attention_heads: int = 64num_key_value_heads: int | None = Nonen_shared_experts: int = 1n_routed_experts: int = 128output_router_logits: bool = Falserouted_scaling_factor: float = 2.5kv_lora_rank: int = 512q_lora_rank: int | None = Noneqk_rope_head_dim: int = 64v_head_dim: int | None = 128qk_nope_head_dim: int = 128n_group: int | None = 1topk_group: int | None = 1num_experts_per_tok: int | None = 8first_k_dense_replace: int | None = 1norm_topk_prob: bool | None = Truehidden_act: str = 'silu'max_position_embeddings: int = 4096initializer_range: float = 0.006rms_norm_eps: float = 1e-06use_cache: bool = Truepad_token_id: int | None = Nonebos_token_id: int | None = 0eos_token_id: int | list[int] | None = 1pretraining_tp: int | None = 1tie_word_embeddings: bool = Falserope_parameters: transformers.modeling_rope_utils.RopeParameters | dict | None = Nonerope_interleave: bool | None = Trueattention_bias: bool = Falseattention_dropout: float | int | None = 0.0num_mtp_layers: int = 0 )
Paramètres
- vocab_size (
int, facultatif, par défaut262144) — Taille du vocabulaire du modèle. Définit le nombre de jetons différents qui peuvent être représentés par lesinput_ids. - hidden_size (
int, facultatif, par défaut4096) — Dimension des représentations cachées. - intermediate_size (
int, facultatif, par défaut16384) — Dimension des représentations du MLP. - moe_intermediate_size (
int, facultatif, par défaut2048) — Taille intermédiaire des MLP des experts routés. - num_hidden_layers (
int, facultatif, par défaut32) — Nombre de couches cachées dans le décodeur Transformer. - num_attention_heads (
int, facultatif, valeur par défaut64) — Nombre de têtes d'attention pour chaque couche d'attention du décodeur Transformer. - num_key_value_heads (
int, facultatif) — Ceci est le nombre de têtes key_value à utiliser pour implémenter la Grouped Query Attention. Sinum_key_value_heads=num_attention_heads, le modèle utilisera la Multi Head Attention (MHA), sinum_key_value_heads=1le modèle utilisera la Multi Query Attention (MQA), sinon la GQA est utilisée. Lors de la conversion d'un checkpoint multi-têtes en checkpoint GQA, chaque tête clé et valeur de groupe doit être construite par moyennage (meanpooling) de toutes les têtes d'origine au sein de ce groupe. Pour plus de détails, consultez ce papier. S'il n'est pas spécifié, la valeur par défaut estnum_attention_heads. - n_shared_experts (
int, facultatif, par défaut1) — Nombre d'experts partagés. - n_routed_experts (
int, facultatif, par défaut128) — Nombre d'experts routés. - output_router_logits (
bool, facultatif, par défautFalse) — Indique si les logits du routeur doivent être renvoyés par le modèle. L’activation de cette option permet également au modèle de renvoyer la perte auxiliaire, incluant la perte d’équilibrage de charge et la perte z du routeur. - routed_scaling_factor (
float, facultatif, par défaut2.5) — Facteur d'échelle des experts routés. - kv_lora_rank (
int, facultatif, par défaut512) — Rang des matrices LoRA pour les projections de clé et de valeur. - q_lora_rank (
int, facultatif) — Rang des matrices LoRA pour les projections de requête. - qk_rope_head_dim (
int, facultatif, par défaut64) — Dimension des têtes de requête/clé qui utilisent des embeddings de position rotatifs. - v_head_dim (
int, facultatif, par défaut128) — Dimension des têtes de valeur. - qk_nope_head_dim (
int, facultatif, valeur par défaut128) — Dimension des têtes de requête/clé qui n’utilisent pas les embeddings de position rotatifs. - n_group (
int, facultatif, valeur par défaut 1) — Nombre de groupes pour les experts routés. Les points de contrôle publiés routent sur l’ensemble des experts d’un seul coup. - topk_group (
int, facultatif, valeur par défaut 1) — Nombre de groupes sélectionnés pour chaque jeton. - num_experts_per_tok (
int, facultatif, valeur par défaut8) — Nombre d'experts auxquels chaque jeton doit être routé. Il s'agit de la valeur top-k pour le routage par choix de jeton. - first_k_dense_replace (
int, facultatif, valeur par défaut 1) — Nombre de couches denses dans les couches superficielles (embed->dense->moe->moe…->lm_head). --k couches denses—/ - norm_topk_prob (
bool, facultatif, valeur par défautTrue) — Indique s'il faut normaliser les poids des experts routés. - hidden_act (
str, facultatif, par défautsilu) — La fonction d'activation non linéaire (fonction ou chaîne de caractères) du décodeur. Par exemple,"gelu","relu","silu", etc. - max_position_embeddings (
int, facultatif, par défaut4096) — La longueur de séquence maximale avec laquelle ce modèle pourrait être utilisé. - initializer_range (
float, facultatif, par défaut0.006) — L'écart-type de la truncated_normal_initializer utilisé pour initialiser toutes les matrices de poids. - rms_norm_eps (
float, facultatif, valeur par défaut1e-06) — L'épsilon utilisé par les couches de normalisation rms. - use_cache (
bool, facultatif, valeur par défautTrue) — Indique si le modèle doit retourner les dernières attentions clés/valeurs (non utilisé par tous les modèles). N’est pertinent que siconfig.is_decoder=Trueou si le modèle est un modèle génératif uniquement décodeur. - pad_token_id (
int, facultatif) — Identifiant du jeton utilisé pour le bourrage dans le vocabulaire. - bos_token_id (
int, facultatif, par défaut0) — Identifiant du jeton utilisé pour le début de flux dans le vocabulaire. - eos_token_id (
Union[int, list[int]], facultatif, par défaut1) — Identifiant du jeton utilisé pour la fin de flux dans le vocabulaire. - pretraining_tp (
int, facultatif, valeur par défaut1) — Fonctionnalité expérimentale. Rang de parallélisme de tenseurs utilisé lors du pré-entraînement. Veuillez consulter ce document pour en savoir plus. Cette valeur est nécessaire pour garantir la reproductibilité exacte des résultats du pré-entraînement. Veuillez consulter cette question. - tie_word_embeddings (
bool, facultatif, valeur par défautFalse) — Indique s'il faut lier les embeddings de poids selon la correspondancetied_weights_keysdu modèle. - rope_parameters (
Union[~modeling_rope_utils.RopeParameters, dict], facultatif) — Dictionnaire contenant les paramètres de configuration pour les embeddings RoPE. Le dictionnaire doit contenir une valeur pourrope_thetaet, le cas échéant, les paramètres utilisés pour le mise à l’échelle si vous souhaitez utiliser RoPE avec desmax_position_embeddingsplus longs. - rope_interleave (
bool, facultatif, valeur par défautTrue) — Indique s'il faut entrelacer les embeddings de position rotatifs. - attention_bias (
bool, facultatif, par défautFalse) — Indique s'il faut utiliser un biais dans les couches de projection des requêtes, des clés, des valeurs et de la sortie lors de l'auto-attention. - attention_dropout (
Union[float, int], facultatif, valeur par défaut0.0) — Le taux de dropout appliqué aux probabilités d'attention. - num_mtp_layers (
int, facultatif, valeur par défaut 0) — Nombre de modules de prédiction multi-tokens (MTP) disponibles à ajouter après le modèle transformer de base. Les points de contrôle publiés ne contiennent pas de poids MTP.
Ceci est la classe de configuration destinée à stocker la configuration d'un DeepseekV3Model. Elle est utilisée pour instancier un modèle Sarvam Mla en fonction des arguments spécifiés, définissant ainsi l'architecture du modèle. L'instanciation d'une configuration avec les valeurs par défaut produira une configuration similaire à celle de sarvamai/sarvam-105b
Les objets de configuration héritent de PreTrainedConfig et peuvent être utilisés pour contrôler les sorties du modèle. Consultez la documentation de PreTrainedConfig pour plus d’informations.