Transformers documentation
GLM-4.5, GLM-4.6, GLM-4.7
Bu model, 2025-08-08 tarihinde HF papers'ta yayımlandı ve 2025-07-21 tarihinde Hugging Face Transformers'a katkıda bulunuldu.
GLM-4.5, GLM-4.6, GLM-4.7
Genel Bakış
GLM-4.7, GLM-4.6 ve GLM-4.5 dil modelleri bu sınıfı kullanır. transformers içindeki uygulama bir MTP katmanı içermez.
GLM-4.7
GLM-4.7, yeni kodlama ortağınız, aşağıdaki özelliklerle geliyor:
- Temel Kodlama: GLM-4.7, çok dilli ajan tabanlı kodlama ve terminal tabanlı görevlerde, SWE-bench'te (73.8%, +5.8%), SWE-bench Multilingual'da (66.7%, +12.9%) ve Terminal Bench 2.0'da (41%, +16.5%) olmak üzere, önceki sürümü GLM-4.6'ya kıyasla belirgin kazanımlar sağlıyor. GLM-4.7 ayrıca eylemden önce düşünme özelliğini destekliyor ve Claude Code, Kilo Code, Cline ve Roo Code gibi ana akım ajan çerçevelerinde karmaşık görevlerde önemli iyileştirmeler sunuyor.
- Vibe Coding: GLM-4.7, arayüz kalitesini iyileştirme konusunda büyük bir adım atıyor. Daha temiz ve modern web sayfaları üretiyor; daha doğru yerleşim ve boyutlandırma ile daha iyi görünen slaytlar oluşturuyor.
- Araç Kullanımı: GLM-4.7, araç kullanımında önemli iyileştirmeler sağlıyor. τ^2-Bench ve BrowseComp üzerinden web gezintisi gibi benchmarklarda belirgin şekilde daha iyi performanslar gözlemlenebiliyor.
- Karmaşık Muhakeme: GLM-4.7, matematik ve muhakeme yeteneklerinde önemli bir artış sağlayarak, GLM-4.6'ya kıyasla HLE (Humanity’s Last Exam) benchmark'ında (42,8%, +12,4%) skor elde ediyor.
Daha genel olarak, sohbet, yaratıcı yazarlık ve rol yapma senaryosu gibi birçok diğer senaryoda da önemli iyileşmeler gözlemlenir.

Aralıklı Düşünme ve Korunan Düşünme

GLM-4.7, Interleaved Thinking (GLM-4.5'ten bu yana mevcut bir özellik) özelliğini daha da geliştirir ve Preserved Thinking ile Turn-level Thinking özelliklerini sunar. Eylemler arasında düşünerek ve turlar arasında tutarlı kalarak karmaşık görevleri daha kararlı ve daha kontrol edilebilir hale getirir:
- Aralıklı Düşünme: Model, her yanıt ve araç çağrısından önce düşünür; bu da talimat uyumunu ve üretim kalitesini artırır.
- Korunan Düşünme: Kodlama ajanı senaryolarında model, çok turlu sohbetlerdeki tüm düşünme bloklarını otomatik olarak korur ve mevcut akıl yürütmeyi yeniden kullanarak sıfırdan türetme işleminden kaçınır. Bu, bilgi kaybını ve tutarsızlıkları azaltır; uzun vadeli ve karmaşık görevler için uygundur.
- Tur Düzeyinde Düşünme: Model, bir oturum içinde akıl yürütme üzerinde tur bazlı kontrol sağlar; gecikme/maliyeti azaltmak için hafif isteklerde düşünmeyi devre dışı bırakabilir, karmaşık görevlerde doğruluğu ve kararlılığı artırmak için etkinleştirebilirsiniz.
Daha fazla ayrıntı: https://docs.z.ai/guides/capabilities/thinking-mode
Daha fazla değerlendirme sonucu, kullanım senaryosu ve teknik ayrıntı için lütfen GLM-4.7 teknik bloguna göz atın.
GLM-4.6
GLM-4.5 ile karşılaştırıldığında, GLM-4.6 birkaç önemli iyileştirme getiriyor:
- Daha uzun bağlam penceresi: Bağlam penceresi 128K'dan 200K token'a genişletilerek modelin daha karmaşık ajan görevlerini işlemesi sağlanmıştır.
- Üstün kodlama performansı: Model, kodlama benchmark'larında daha yüksek puanlar elde eder ve Claude Code, Cline, Roo Code ve Kilo Code gibi uygulamalarda daha iyi gerçek dünya performansı sergiler; bu, görsel olarak özenli ön yüz sayfaları oluşturma konusunda da iyileşmeler içerir.
- Gelişmiş akıl yürütme: GLM-4.6, akıl yürütme performansında belirgin bir iyileşme göstermekte ve çıkarım sırasında araç kullanımını desteklemekte olup bu da daha güçlü bir genel yetkinlik sağlamaktadır.
- Daha yetenekli ajanlar: GLM-4.6, araç kullanımı ve arama tabanlı ajanlarda daha güçlü bir performans sergiler ve ajan çerçeveleri içinde daha etkin bir şekilde bütünleşir.
- İyileştirilmiş yazım: Stil ve okunabilirlik açısından insan tercihleriyle daha iyi uyum sağlar ve rol yapma senaryolarında daha doğal bir performans sergiler.
GLM-4.6'yı ajanlar, akıl yürütme ve kodlama alanlarını kapsayan sekiz açık uçta değerlendirdik. Sonuçlar, GLM-4.5'e kıyasla belirgin iyileşmeler gösterirken, GLM-4.6'nın DeepSeek-V3.1-Terminus ve Claude Sonnet 4 gibi önde gelen yerli ve uluslararası modellere karşı da rekabetçi avantajlar sunduğunu ortaya koymaktadır.
Daha fazla değerlendirme sonucu, kullanım senaryosu ve teknik ayrıntı için lütfen GLM-4.6 teknik bloguna göz atın.
GLM-4.5
GLM-4.5 serisi modeller, zeki ajanlar için tasarlanmış temel modellerdir; MoE varyantları burada Glm4Moe olarak belgelenmiştir.
GLM-4.5, 355 milyar toplam parametreye ve 32 milyar aktif parametreye sahipken, GLM-4.5-Air daha kompakt bir tasarıma sahip olup 106 milyar toplam parametre ve 12 milyar aktif parametre kullanmaktadır. GLM-4.5 modelleri, akıl yürütme, kodlama ve zeki ajan yeteneklerini bir araya getirerek zeki ajan uygulamalarının karmaşık gereksinimlerini karşılar.
GLM-4.5 ve GLM-4.5-Air, karmaşık akıl yürütme ve araç kullanımı için düşünme modu ile anında yanıtlar için düşünmeme modu olmak üzere iki mod sunan hibrit akıl yürütme modelleridir.
GLM-4.5 ve GLM-4.5-Air için temel modelleri, hibrit akıl yürütme modellerini ve hibrit akıl yürütme modellerinin FP8 sürümlerini açık kaynak olarak yayımladık. MIT açık kaynak lisansı altında yayımlanan bu modeller, ticari kullanım ve ikincil geliştirme amacıyla kullanılabilir.
12 sektör standardı benchmark'ında gerçekleştirdiğimiz kapsamlı değerlendirmede gösterildiği üzere, GLM-4.5, 63.2 puanıyla tüm özel ve açık kaynak modeller arasında 3. sırada yer alarak olağanüstü bir performans sergilemektedir. Öne çıkan bir diğer husus, GLM-4.5-Air'ın üstün verimliliği korurken 59.8 ile rekabetçi sonuçlar sunmasıdır.
Daha fazla değerlendirme sonucu, kullanım senaryosu ve teknik ayrıntı için lütfen teknik raporumuza veya teknik blogumuza göz atın.
Model kodu, araç ayrıştırıcısı ve akıl yürütme ayrıştırıcısı, transformers, vLLM ve SGLang uygulamalarında bulunabilir.
Glm4MoeConfig
sınıf transformers.Glm4MoeConfig
< source >( transformers_version: str | None = Nonearchitectures: list[str] | None = Noneoutput_hidden_states: bool | None = Falsereturn_dict: bool | None = Truedtype: str | torch.dtype | None = Nonechunk_size_feed_forward: int = 0is_encoder_decoder: bool = Falseid2label: dict[int, str] | dict[str, str] | None = Nonelabel2id: dict[str, int] | dict[str, str] | None = Noneproblem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = Nonevocab_size: int = 151552hidden_size: int = 4096intermediate_size: int = 10944num_hidden_layers: int = 46num_attention_heads: int = 96num_key_value_heads: int = 8hidden_act: str = 'silu'max_position_embeddings: int = 131072initializer_range: float = 0.02rms_norm_eps: float = 1e-05use_cache: bool = Truetie_word_embeddings: bool = Falserope_parameters: transformers.modeling_rope_utils.RopeParameters | dict | None = Noneattention_bias: bool = Falseattention_dropout: float | int = 0.0moe_intermediate_size: int = 1408num_experts_per_tok: int = 8output_router_logits: bool = Falsen_shared_experts: int = 1n_routed_experts: int = 128routed_scaling_factor: float = 1.0n_group: int = 1topk_group: int = 1first_k_dense_replace: int = 1norm_topk_prob: bool = Trueuse_qk_norm: bool = Falsebos_token_id: int | None = Noneeos_token_id: int | list[int] | None = Nonepad_token_id: int | None = Nonenum_mtp_layers: int = 1 )
Parametreler
- vocab_size (
int, isteğe bağlı, varsayılan151552) — Modelin sözlük boyutu.input_idsile temsil edilebilecek farklı token sayısını belirler. - hidden_size (
int, isteğe bağlı, varsayılan4096) — Gizli temsillerin boyutu. - intermediate_size (
int, isteğe bağlı, varsayılan10944) — MLP temsillerinin boyutu. - num_hidden_layers (
int, isteğe bağlı, varsayılan46) — Transformer çözücüdeki gizli katman sayısı. - num_attention_heads (
int, isteğe bağlı, varsayılan96) — Transformer decoder'ındaki her dikkat katmanı için dikkat başlığı sayısı. - num_key_value_heads (
int, isteğe bağlı, varsayılan8) — Bu, Grouped Query Attention uygulamasında kullanılacak key_value başlarının sayısıdır.num_key_value_heads=num_attention_headsise model Multi Head Attention (MHA) kullanır,num_key_value_heads=1ise model Multi Query Attention (MQA) kullanır, aksi halde GQA kullanılır. Çok başlı bir checkpoint'i GQA checkpoint'ine dönüştürürken, her grup key ve value başı, o gruptaki tüm orijinal başların ortalama havuzlanması (meanpooling) ile oluşturulmalıdır. Daha fazla ayrıntı için bu makaleye göz atın. Belirtilmezse, varsayılan olaraknum_attention_headskullanılır. - hidden_act (
str, isteğe bağlı, varsayılansilu) — Çözücüdeki doğrusal olmayan aktivasyon fonksiyonu (fonksiyon veya dize). Örneğin,"gelu","relu","silu"vb. - max_position_embeddings (
int, isteğe bağlı, varsayılan131072) — Bu modelin kullanılabileceği en uzun dizi uzunluğu. - initializer_range (
float, isteğe bağlı, varsayılan0.02) — Tüm ağırlık matrislerini başlatmak için kullanılan truncated_normal_initializer'ın standart sapması. - rms_norm_eps (
float, isteğe bağlı, varsayılan1e-05) — rms normalizasyon katmanları tarafından kullanılan epsilon. - use_cache (
bool, isteğe bağlı, varsayılanTrue) — Modelin son anahtar/değer dikkatlerini (tüm modellerde kullanılmaz) döndürüp döndürmeyeceği. Yalnızcaconfig.is_decoder=Trueolduğunda veya model yalnızca çözücü tabanlı üretken bir model olduğunda geçerlidir. - tie_word_embeddings (
bool, isteğe bağlı, varsayılanFalse) — Modelintied_weights_keyseşlemesine göre ağırlık gömme bağlamalarının yapılıp yapılmayacağı. - rope_parameters (
Union[~modeling_rope_utils.RopeParameters, dict], isteğe bağlı) — RoPE gömme yapılandırma parametrelerini içeren sözlük. Sözlük,rope_thetaiçin bir değer ve daha uzunmax_position_embeddingsile RoPE kullanmak istiyorsanız ölçekleme için kullanılan isteğe bağlı parametreleri içermelidir. - attention_bias (
bool, isteğe bağlı, varsayılanFalse) — Öz-dikkat sırasında sorgu, anahtar, değer ve çıktı projeksiyon katmanlarında önyargı (bias) kullanılıp kullanılmayacağı. - attention_dropout (
Union[float, int], isteğe bağlı, varsayılan0.0) — Dikkat olasılıkları için dropout oranı. - moe_intermediate_size (
int, isteğe bağlı, varsayılan1408) — Yönlendirilen uzman MLP'lerinin ara boyutu. - num_experts_per_tok (
int, isteğe bağlı, varsayılan8) — Her tokenın yönlendirileceği uzman sayısı. Bu, token seçimli yönlendirmede top-k değeridir. - output_router_logits (
bool, isteğe bağlı, varsayılanFalse) — Modelin router logits'lerini döndürüp döndürmeyeceği. Bu özelliğin etkinleştirilmesi, modelin yük dengeleme kaybı ve router z-kaybı dahil olmak üzere yardımcı kaybı da çıkarmasına olanak tanır. - n_shared_experts (
int, isteğe bağlı, varsayılan1) — Paylaşılan uzman sayısı. - n_routed_experts (
int, isteğe bağlı, varsayılan128) — Yönlendirilen uzman sayısı. - routed_scaling_factor (
float, isteğe bağlı, varsayılan1.0) — Ölçekleme faktörü veya yönlendirilen uzmanlar. - n_group (
int, isteğe bağlı, varsayılan 1) — Yönlendirilen uzmanlar için grup sayısı. - topk_group (
int, isteğe bağlı, varsayılan1) — Her token için seçilen grup sayısı (her token için, seçilen uzmanların yalnızcatopk_groupgrup içinde olmasını sağlar). - first_k_dense_replace (
int, isteğe bağlı, varsayılan 1) — Shallow katmanlardaki yoğun katman sayısı (embed->dense->dense->…->dense->moe->moe…->lm_head). --k yoğun katman—/ - norm_topk_prob (
bool, isteğe bağlı, varsayılanTrue) — Yönlendirilen uzmanların ağırlıklarının normalize edilip edilmeyeceği. - use_qk_norm (
bool, isteğe bağlı, varsayılanFalse) — Dikkat mekanizmasında sorgu-anahtar normalizasyonunun kullanılıp kullanılmayacağı. - bos_token_id (
int, isteğe bağlı) — Sözlükte akış başlangıcı için kullanılan token kimliği. - eos_token_id (
Union[int, list[int]], isteğe bağlı) — Sözlükte akış sonu için kullanılan token kimliği. - pad_token_id (
int, isteğe bağlı) — Sözlükte dolgu için kullanılan token kimliği. - num_mtp_layers (
int, isteğe bağlı, varsayılan 1) — Temel transformer modelinin sonuna eklenmesi için kullanılabilir Multi-Token Prediction (MTP) modüllerinin sayısı.0olduğunda model standart bir decoder gibi davranır.>0olduğunda, her ek modül çıkarım sırasında (speculative decoding ilegenerate(..., use_mtp=True)) birer ek gelecek token tahminleyebilir.
Bu, bir Glm4MoeModel yapılandırmasını depolamak için kullanılan yapılandırma sınıfıdır. Belirtilen argümanlara göre bir Glm4 Moe modelinin örneklenmesinde, model mimarisini tanımlamak için kullanılır. Varsayılan değerlerle bir yapılandırma örneklendiğinde, zai-org/GLM-4.5 ile benzer bir yapılandırma elde edilir.
Yapılandırma nesneleri PreTrainedConfig sınıfından devralır ve model çıktılarını kontrol etmek için kullanılabilir. Daha fazla bilgi için PreTrainedConfig belgesini okuyun.
Örnek:
>>> from transformers import Glm4MoeModel, Glm4MoeConfig
>>> # Initializing a Glm4Moe style configuration
>>> configuration = Glm4MoeConfig()
>>> # Initializing a model from the GLM-4-MOE-100B-A10B style configuration
>>> model = Glm4MoeModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.configGlm4MoeModel
sınıf transformers.Glm4MoeModel
< source >( config: Glm4MoeConfig )
Parametreler
- config (Glm4MoeConfig) — Modelin tüm parametrelerini içeren model yapılandırma sınıfı. Bir yapılandırma dosyasıyla başlatmak, modelle ilişkili ağırlıkları yüklemez, yalnızca yapılandırmayı yükler. Model ağırlıklarını yüklemek için from_pretrained() yöntemine bakın.
Üzerinde herhangi bir özel head olmadan ham hidden-states üreten çıplak Glm4 Moe Model.
Bu model PreTrainedModel sınıfından devralır. Kütüphanenin tüm modelleri için uyguladığı genel yöntemler (indirme veya kaydetme, giriş gömme boyutlarını yeniden boyutlandırma, başları budama vb.) için üst sınıf belgelendirmesine bakın.
Bu model aynı zamanda bir PyTorch torch.nn.Module alt sınıfıdır. Bunu standart bir PyTorch Module olarak kullanın ve genel kullanım ve davranışla ilgili tüm konular için PyTorch dokümantasyonuna başvurun.
forward
< source >( input_ids: typing.Optional[torch.LongTensor] = Noneattention_mask: typing.Optional[torch.Tensor] = Noneposition_ids: typing.Optional[torch.LongTensor] = Nonepast_key_values: transformers.cache_utils.Cache | None = Noneinputs_embeds: typing.Optional[torch.Tensor] = Noneuse_cache: bool | None = None**kwargs: *<class 'transformers.utils.generic.TransformersKwargs'> ) → MoeModelOutputWithPast or tuple(torch.Tensor)
Parametreler
- input_ids (
torch.LongTensorşeklinde(batch_size, sequence_length), isteğe bağlı) — Sözlükteki girdi dizisi belirteçlerinin (token) indeksleri. Varsayılan olarak dolgu (padding) yok sayılır.Dizinler AutoTokenizer kullanılarak elde edilebilir. Ayrıntılar için PreTrainedTokenizer.encode() ve PreTrainedTokenizer.call() konularına bakın.
- attention_mask (
torch.Tensorşeklinde(batch_size, sequence_length), isteğe bağlı) — Doldurma (padding) token indekslerinde dikkat (attention) işlemi yapmaktan kaçınmak için kullanılan maske. Seçilen maske değerleri[0, 1]:- 1, maskelenmemiş jetonlar için,
- maskelenmiş jetonlar için 0.
- position_ids (
torch.LongTensorşeklinde(batch_size, sequence_length), isteğe bağlı) — Girdi dizilerindeki her token'ın konum gömme (position embedding) içindeki konum indeksleri. Seçim aralığı[0, config.n_positions - 1]. - past_key_values (
~cache_utils.Cache, isteğe bağlı) — Sıralı çözümlemeyi hızlandırmak için kullanılabilen önceden hesaplanmış gizli durumlar (self-attention ve cross-attention bloklarındaki anahtar ve değerler). Bu genelliklepast_key_valuesdeğerinin, çözümlemenin önceki bir aşamasında model tarafından döndürülenuse_cache=Trueveyaconfig.use_cache=True.Girdi olarak yalnızca Cache örneği kabul edilir, kv cache kılavuzumuza bakın.
past_key_valuesgeçirilmezse, varsayılan olarak DynamicCache başlatılır.Model, girdi olarak verilen aynı önbellek biçimini çıktı olarak üretecektir.
past_key_valueskullanılıyorsa, kullanıcının tüminput_ids(şekli(batch_size, sequence_length)) yerine, bu modele geçmiş anahtar değer durumları verilmemiş olan, işlenmemişinput_ids(şekli(batch_size, unprocessed_length)) girmesi beklenir. - inputs_embeds (
torch.Tensor, şekli(batch_size, sequence_length, hidden_size), isteğe bağlı) — İsteğe bağlı olarak,input_idsyerine gömülü bir temsil doğrudan geçmeyi tercih edebilirsiniz. Bu,input_idsdizinlerini ilgili vektörlere dönüştürme biçimi üzerinde modelin dahili gömme arama matrisinden daha fazla kontrol sahibi olmak istiyorsanız faydalıdır. - use_cache (
bool, isteğe bağlı) —Trueolarak ayarlanırsa,past_key_valuesanahtar değer durumları döndürülür ve çözümlemeyi hızlandırmak için kullanılabilir (bkz.past_key_values).
Dönüş değeri
MoeModelOutputWithPast veya tuple(torch.Tensor)
MoeModelOutputWithPast veya bir torch.Tensor demeti (eğer return_dict=False geçirildiyse veya config.return_dict=False ise), yapılandırma (Glm4MoeConfig) ve girdilere bağlı olarak çeşitli öğelerden oluşur.
Glm4MoeModel forward metodu, __call__ özel metodunu geçersiz kılar.
İleri geçiş tarifi bu fonksiyon içinde tanımlanmalı olsa da, sonrasında bunun yerine
Moduleörneğini çağırmak gerekir; çünkü önceki, ön ve son işleme adımlarını çalıştırmaktan sorumluyken ikincisi bunları sessizce yok sayar.
last_hidden_state (
torch.Tensor, şekli(batch_size, sequence_length, hidden_size)) — Modelin son katmanının çıktısındaki gizli durumlar dizisi.past_key_values (
Cache, isteğe bağlı,use_cache=Truegeçirildiğinde veyaconfig.use_cache=Trueolduğunda döndürülür) — Bir Cache örneğidir. Daha fazla ayrıntı için kv cache kılavuzumuza bakın.Sıralı çözümlemeyi hızlandırmak için (bkz.
past_key_valuesgirdisi) kullanılabilen, önceden hesaplanmış gizli durumları (self-attention bloklarındaki anahtar ve değerler ve isteğe bağlı olarakconfig.is_encoder_decoder=Trueise cross-attention bloklarındaki anahtar ve değerler) içerir.hidden_states (
tuple(torch.Tensor), isteğe bağlı,output_hidden_states=Truegeçirildiğinde veyaconfig.output_hidden_states=Trueolduğunda döndürülür) —torch.Tensor(modelin bir gömme katmanı varsa gömme katmanının çıktısı için bir tane + her katmanın çıktısı için birer tane) içeren,(batch_size, sequence_length, hidden_size)biçiminde bir demet.Her katmanın çıktısında modelin gizli durumları ve isteğe bağlı başlangıç gömme çıktıları.
attentions (
tuple(torch.Tensor), isteğe bağlı,output_attentions=Truegeçirildiğinde veyaconfig.output_attentions=Trueolduğunda döndürülür) —torch.Tensor(katman başına bir tane) içeren bir tuple, şekli(batch_size, num_heads, sequence_length, sequence_length).Dikkat softmax'ı sonrası dikkat ağırlıkları, öz-dikkat başlıklarında ağırlıklı ortalamanın hesaplanmasında kullanılır.
router_logits (
tuple(torch.Tensor), isteğe bağlı,output_router_probs=Trueveconfig.add_router_probs=Truegeçirildiğinde veyaconfig.output_router_probs=Trueolduğunda döndürülür) —torch.Tensor(katman başına bir tane) içeren bir tuple, şekli(batch_size, sequence_length, num_experts).MoE yönlendiricileri tarafından hesaplanan ham yönlendirici logitleri (softmax sonrası), bu terimler Mixture of Experts modelleri için yardımcı kaybı hesaplamakta kullanılır.
Glm4MoeForCausalLM
sınıf transformers.Glm4MoeForCausalLM
< source >( config: Glm4MoeConfig )
Parametreler
- config (Glm4MoeConfig) — Modelin tüm parametrelerini içeren model yapılandırma sınıfı. Bir yapılandırma dosyasıyla başlatmak, modelle ilişkili ağırlıkları yüklemez, yalnızca yapılandırmayı yükler. Model ağırlıklarını yüklemek için from_pretrained() yöntemine bakın.
Nedensel dil modellemesi için Glm4 Moe Modeli.
Bu model PreTrainedModel sınıfından devralır. Kütüphanenin tüm modelleri için uyguladığı genel yöntemler (indirme veya kaydetme, giriş gömme boyutlarını yeniden boyutlandırma, başları budama vb.) için üst sınıf belgelendirmesine bakın.
Bu model aynı zamanda bir PyTorch torch.nn.Module alt sınıfıdır. Bunu standart bir PyTorch Module olarak kullanın ve genel kullanım ve davranışla ilgili tüm konular için PyTorch dokümantasyonuna başvurun.
forward
< source >( input_ids: typing.Optional[torch.LongTensor] = Noneattention_mask: typing.Optional[torch.Tensor] = Noneposition_ids: typing.Optional[torch.LongTensor] = Nonepast_key_values: transformers.cache_utils.Cache | None = Noneinputs_embeds: typing.Optional[torch.Tensor] = Nonelabels: typing.Optional[torch.LongTensor] = Noneuse_cache: bool | None = Nonelogits_to_keep: typing.Union[int, torch.Tensor] = 0**kwargs: *<class 'transformers.utils.generic.TransformersKwargs'> ) → MoeCausalLMOutputWithPast or tuple(torch.Tensor)
Parametreler
- input_ids (
torch.LongTensorşeklinde(batch_size, sequence_length), isteğe bağlı) — Sözlükteki girdi dizisi belirteçlerinin (token) indeksleri. Varsayılan olarak dolgu (padding) yok sayılır.Dizinler AutoTokenizer kullanılarak elde edilebilir. Ayrıntılar için PreTrainedTokenizer.encode() ve PreTrainedTokenizer.call() konularına bakın.
- attention_mask (
torch.Tensorşeklinde(batch_size, sequence_length), isteğe bağlı) — Doldurma (padding) token indekslerinde dikkat (attention) işlemi yapmaktan kaçınmak için kullanılan maske. Seçilen maske değerleri[0, 1]:- 1, maskelenmemiş jetonlar için,
- maskelenmiş jetonlar için 0.
- position_ids (
torch.LongTensorşeklinde(batch_size, sequence_length), isteğe bağlı) — Girdi dizilerindeki her token'ın konum gömme (position embedding) içindeki konum indeksleri. Seçim aralığı[0, config.n_positions - 1]. - past_key_values (
~cache_utils.Cache, isteğe bağlı) — Sıralı çözümlemeyi hızlandırmak için kullanılabilen önceden hesaplanmış gizli durumlar (self-attention ve cross-attention bloklarındaki anahtar ve değerler). Bu genelliklepast_key_valuesdeğerinin, çözümlemenin önceki bir aşamasında model tarafından döndürülenuse_cache=Trueveyaconfig.use_cache=True.Girdi olarak yalnızca Cache örneği kabul edilir, kv cache kılavuzumuza bakın.
past_key_valuesgeçirilmezse, varsayılan olarak DynamicCache başlatılır.Model, girdi olarak verilen aynı önbellek biçimini çıktı olarak üretecektir.
past_key_valueskullanılıyorsa, kullanıcının tüminput_ids(şekli(batch_size, sequence_length)) yerine, bu modele geçmiş anahtar değer durumları verilmemiş olan, işlenmemişinput_ids(şekli(batch_size, unprocessed_length)) girmesi beklenir. - inputs_embeds (
torch.Tensor, şekli(batch_size, sequence_length, hidden_size), isteğe bağlı) — İsteğe bağlı olarak,input_idsyerine gömülü bir temsil doğrudan geçmeyi tercih edebilirsiniz. Bu,input_idsdizinlerini ilgili vektörlere dönüştürme biçimi üzerinde modelin dahili gömme arama matrisinden daha fazla kontrol sahibi olmak istiyorsanız faydalıdır. - labels (
torch.LongTensor, şekli(batch_size, sequence_length), isteğe bağlı) — Maskeli dil modelleme kaybını hesaplamak için etiketler. Endeksler[0, ..., config.vocab_size]aralığında olmalı ya da -100 olmalı (input_idsdocstring'ine bakın). Endeksleri-100olarak ayarlanan tokenlar yok sayılır (maskelenir), kayıp yalnızca etiketleri[0, ..., config.vocab_size]aralığında olan tokenlar için hesaplanır. - use_cache (
bool, isteğe bağlı) —Trueolarak ayarlanırsa,past_key_valuesanahtar değer durumları döndürülür ve çözümlemeyi hızlandırmak için kullanılabilir (bkz.past_key_values). - logits_to_keep (
Union[int, torch.Tensor], isteğe bağlı, varsayılan0) —intise, sonlogits_to_keeptoken için logits hesaplanır.0ise, tüminput_idsiçin logits hesaplanır (özel durum). Üretim için yalnızca son token logits'leri gereklidir ve bunların yalnızca o token için hesaplanması bellek tasarrufu sağlar; bu, uzun diziler veya büyük sözlük boyutu için oldukça önemli hale gelir.torch.Tensorise, dizi uzunluğu boyutundaki korunacak indekslere karşılık gelen 1B olmalıdır. Bu, paketlenmiş tensor biçimini (batch ve dizi uzunluğu için tek boyut) kullanırken faydalıdır.
Dönüş değeri
MoeCausalLMOutputWithPast veya tuple(torch.Tensor)
MoeCausalLMOutputWithPast veya bir torch.Tensor demeti (eğer return_dict=False geçirildiyse veya config.return_dict=False ise), yapılandırmaya (Glm4MoeConfig) ve girdilere bağlı olarak çeşitli öğelerden oluşur.
Glm4MoeForCausalLM forward metodu, __call__ özel metodunu geçersiz kılar.
İleri geçiş tarifi bu fonksiyon içinde tanımlanmalı olsa da, sonrasında bunun yerine
Moduleörneğini çağırmak gerekir; çünkü önceki, ön ve son işleme adımlarını çalıştırmaktan sorumluyken ikincisi bunları sessizce yok sayar.
loss (
torch.Tensor, şekli(1,), isteğe bağlı,labelssağlandığında döndürülür) — Dil modelleme kaybı (sonraki token tahmini için).logits (
torch.Tensor, şekli(batch_size, sequence_length, config.vocab_size)) — Dil modelleme başlığının tahmin puanları (SoftMax öncesi her sözlük jetonu için puanlar).aux_loss (
torch.Tensor, isteğe bağlı,output_router_logits=Truegeçirildiğinde veyaconfig.output_router_logits=Trueolduğunda ve model, yük dengeleme kaybı ile router'ını eğittiğinde döndürülür) — Seyrek modüller için yük dengeleme yardımcı kaybı. Uzmanlarını router sapması ile dengeleyen modeller (DeepSeek-V3 ve ondan türetilen mimariler) buradaNonedöndürürken yine derouter_logitsdöndürür.router_logits (
tuple(torch.Tensor), isteğe bağlı,output_router_logits=Truegeçirildiğinde veyaconfig.output_router_logits=Trueolduğunda döndürülür) —torch.Tensor(her seyrek katman için bir tane) içeren bir tuple, şekli(batch_size * sequence_length, num_experts).MoE yönlendiricileri tarafından hesaplanan ham yönlendirici logitleri. Bunlar, bir yük dengeleme kaybı hesaplamak veya tokenlerin uzmanlara nasıl dağıtıldığını incelemek için kullanılabilir.
past_key_values (
Cache, isteğe bağlı,use_cache=Truegeçirildiğinde veyaconfig.use_cache=Trueolduğunda döndürülür) — Bir Cache örneğidir. Daha fazla ayrıntı için kv cache kılavuzumuza bakın.Sıralı çözümlemeyi hızlandırmak için (bkz.
past_key_valuesgirdisi) kullanılabilen, önceden hesaplanmış gizli durumları (self-attention bloklarındaki anahtar ve değerler) içerir.hidden_states (
tuple(torch.Tensor), isteğe bağlı,output_hidden_states=Truegeçirildiğinde veyaconfig.output_hidden_states=Trueolduğunda döndürülür) —torch.Tensor(modelin bir gömme katmanı varsa gömme katmanının çıktısı için bir tane + her katmanın çıktısı için birer tane) içeren,(batch_size, sequence_length, hidden_size)biçiminde bir demet.Her katmanın çıktısında modelin gizli durumları ve isteğe bağlı başlangıç gömme çıktıları.
attentions (
tuple(torch.Tensor), isteğe bağlı,output_attentions=Truegeçirildiğinde veyaconfig.output_attentions=Trueolduğunda döndürülür) —torch.Tensor(katman başına bir tane) içeren bir tuple, şekli(batch_size, num_heads, sequence_length, sequence_length).Dikkat softmax'ı sonrası dikkat ağırlıkları, öz-dikkat başlıklarında ağırlıklı ortalamanın hesaplanmasında kullanılır.
Örnek:
>>> from transformers import AutoTokenizer, Glm4MoeForCausalLM
>>> model = Glm4MoeForCausalLM.from_pretrained("meta-glm4_moe/Glm4Moe-2-7b-hf")
>>> tokenizer = AutoTokenizer.from_pretrained("meta-glm4_moe/Glm4Moe-2-7b-hf")
>>> prompt = "Hey, are you conscious? Can you talk to me?"
>>> inputs = tokenizer(prompt, return_tensors="pt")
>>> # Generate
>>> generate_ids = model.generate(inputs.input_ids, max_length=30)
>>> tokenizer.batch_decode(generate_ids, skip_special_tokens=True, clean_up_tokenization_spaces=False)[0]
"Hey, are you conscious? Can you talk to me?\nI'm not conscious, but I can talk to you."