该模型于 2026-10-16 贡献至 Hugging Face Transformers。

Beam

概述

Beam 是 Reflection 推出的首个开放权重模型，它是一个稀疏混合专家（MoE）语言模型，总参数量为 501B，每个 token 激活 23B 参数，专为编码、推理和智能体工作负载而构建。该模型在 23.8T token 上进行预训练，并通过大规模异步强化学习进行后训练。Beam 仅支持文本，且在给出每个答案前都会进行推理。聊天模板中的推理努力设置可控制推理的程度。

Beam 拥有 52 个解码器层，并集成了以下特性：

• 混合滑动窗口与全注意力。 每第六层以及最后一层使用全注意力，其余层则关注最近的 sliding_window（512）个 token。layer_types 用于设置该模式。
• 滑动层使用 RoPE，全注意力层使用 NoPE。 rope_parameters 以层类型作为键，None 表示该层类型不使用位置编码。全注意力层则对查询进行缩放（可扩展 softmax）：位于 1 起始位置 n 的查询会乘以 (1 + n / 2048) ** 0.1，从而避免上下文增长时注意力分布变得过于平坦。
• 门控注意力。采用分组查询注意力，包含 48 个查询头和 8 个键/值头，并对每个查询头和键头应用 RMSNorm。一个从注意力输入计算得出的 sigmoid 门控，带有每个头独立学习的偏置，在输出投影之前对注意力输出进行逐元素缩放。
• 稀疏 MoE。 前 3 层使用稠密 SwiGLU MLP，其余 49 层将每个 token 路由到 256 个专家中的 8 个，且没有共享专家（mlp_layer_types 用于设置该模式）。路由器使用 sigmoid 对专家进行评分，通过为每个专家学习一个偏置来平衡负载，而非使用辅助损失，并将每个 token 限制在 n_group 个专家组中得分最高的 topk_group 个组内。路由权重经过归一化，MoE 的输出会乘以 routed_scaling_factor 进行缩放。
• 采用深度缩放残差的三明治式归一化。 每个注意力层和 MLP 块的前后都包裹了一层 RMSNorm。残差相加会进行重新缩放，使得在 k 次贡献之后（将嵌入视为第一次），残差流等于它们的总和除以 sqrt(k)。
• 最终 logit 软截断。Logits 通过 30 * tanh(logits / 30)（final_logit_softcapping）进行截断。

该实现以 FP32 精度计算 RMSNorm 缩放、SwiGLU 激活、RoPE、查询缩放、路由以及 softcapping，以匹配 Beam 训练和推理时的数值表现。路由权重和专家偏置在加载时保持为 FP32，返回的 logits 始终为 FP32。

您可以在 Reflection 组织下找到所有原始的 Beam 检查点。

该模型由 yonigozlan 贡献。

使用示例

Beam 的聊天模板将对话格式化为 Beam 的 Harmony 格式，其 响应模板 会将生成的文本解析回包含 thinking、content 和 tool_calls 字段的消息。以下示例使用 Pipeline 或 AutoModelForCausalLM 类生成回复。

BF16 检查点的大小约为 1 TB，因此示例通过 专家并行 将其分片到 8 个设备上，并在每个设备上放置完整的 routed experts。请使用 torchrun --nproc-per-node 8 <script.py> 启动它们。

from transformers import DistributedConfig, pipeline

pipe = pipeline(
    task="text-generation",
    model="reflection/Beam-1.0-501B-A23B",
    model_kwargs={"distributed_config": DistributedConfig(tp_size=8, ep_size=8)},
)

messages = [{"role": "user", "content": "Explain in one sentence why the sky is usually blue."}]
output = pipe(messages, max_new_tokens=2048)
reply = output[0]["generated_text"][-1]
print(reply["thinking"])
print(reply["content"])

from transformers import AutoModelForCausalLM, AutoTokenizer, DistributedConfig

model_id = "reflection/Beam-1.0-501B-A23B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, distributed_config=DistributedConfig(tp_size=8, ep_size=8))

messages = [{"role": "user", "content": "Explain in one sentence why the sky is usually blue."}]
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True, reasoning_effort="low"
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=2048)
generated = tokenizer.decode(outputs[0, inputs["input_ids"].shape[1] :])
message = tokenizer.parse_response(generated, prefix=inputs["input_ids"][0])
print(message["thinking"])
print(message["content"])

请优先使用此方式，而非 device_map="auto"。后者会将完整的层放置在每个设备上，逐个设备执行，并且在加载过程中可能会耗尽内存。

使用 Beam 推荐的 temperature=0.7 和 top_p=0.99 生成样本，这些值由检查点的 GenerationConfig 设为默认值。传入 do_sample=False 以进行贪心解码。

推理努力

将 reasoning_effort 传递给 apply_chat_template() 以控制 Beam 的推理程度。它接受一个整数预算或以下标签之一。由于 Beam 并非使用低于 8 的 effort 进行训练，因此较小的值不会被遵循。

当 reasoning_effort 未设置时，模板会使用 max。如果在推理过程中 max_new_tokens 耗尽，解析后的消息将包含 thinking 但不包含 content。

多轮对话

将解析后的消息原样追加到历史记录中。如果缺少之前的推理内容，Beam 的输出质量会下降，而聊天模板会从 thinking 中读取该内容（reasoning_content 和 reasoning 同样被接受）。默认情况下，没有推理内容的助手轮次会以空的推理块进行渲染。当 add_generation_prompt=True 时，传入 allow_missing_thinking=False 可以改为抛出错误，在部署 Beam 时建议采用此设置。

messages.append(message)
messages.append({"role": "user", "content": "And why are sunsets red?"})
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)

工具调用

将 tools 同时传递给 apply_chat_template() 和 parse_response()。使用 tools 时，解析后的参数会被转换为各工具 schema 中定义的类型；未提供时，所有参数均为字符串。

def get_weather(city: str):
    """
    Get the current weather in a city.

    Args:
        city: The city name.
    """
    return "Sunny, 22 C"


messages = [{"role": "user", "content": "What's the weather like in Paris right now?"}]
inputs = tokenizer.apply_chat_template(
    messages, tools=[get_weather], add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=2048)
generated = tokenizer.decode(outputs[0, inputs["input_ids"].shape[1] :])
message = tokenizer.parse_response(generated, prefix=inputs["input_ids"][0], tools=[get_weather])
print(message["tool_calls"])
# [{'type': 'function', 'function': {'name': 'get_weather', 'arguments': {'city': 'Paris'}}}]

messages.append(message)
for call in message["tool_calls"]:
    result = get_weather(**call["function"]["arguments"])
    messages.append({"role": "tool", "name": call["function"]["name"], "content": result})

然后再次从 messages 生成，以获取最终答案。解析后的工具调用没有 id，并且该格式通过位置将结果与调用匹配，因此请按调用的顺序返回工具结果。生成会在最终答案（<|return|>）或工具调用（<|call|>）之后停止；generation_config.json 中列出了这两者。

对于流式处理，get_response_parser() 会返回一个解析器，你可以在文本块生成时通过 feed() 向其输入这些文本块。有关更多详细信息，请参阅 响应解析。

备注

• 模板参数。 除了 reasoning_effort 之外，聊天模板还接受 model_identity（用于替换系统消息的第一行）、builtin_tools 以及 allow_missing_thinking。builtin_tools 仅应指定 search 和 browse 工具，且必须使用 Beam 训练时所用的定义。其他工具只需使用 tools。system 和 developer 消息仅在对话开始时渲染。
• 训练。 聊天模板会为 apply_chat_template(..., return_dict=True, return_assistant_tokens_mask=True) 标记助手输出，因此 TRL 的 SFTConfig(assistant_only_loss=True) 仅针对助手 token 进行训练。该掩码涵盖每个助手轮次中的推理、答案和工具调用。
• 无辅助损失。路由器通过其偏置来平衡专家负载，因此 BeamForCausalLM 不会计算负载均衡损失。output_router_logits=True 仍会返回路由器 logits。

BeamConfig

>>> from transformers import BeamConfig

>>> # Initializing a Beam configuration
>>> configuration = BeamConfig()

BeamModel

BeamForCausalLM