各厂语言模型

美国新实验室首战开源:501B 的 Beam 每次只激活 23B,编码 Agent 能跑在自家机器上

2026年10月17日1 次阅读

3 分钟看懂:这是什么,为什么重要

一句话:美国 AI 实验室 Reflection 把自家第一个模型 Beam 的完整权重放了出来——一个 5010 亿总参数、每次只激活 230 亿 的混合专家(MoE)模型,Apache 2.0 协议,上下文 100 万 token,专门为写代码和跑 Agent 打造。

为什么值得单独写一篇:真正"美国本土出品、旗舰体量、还把权重完整开放"的模型并不多。过去这类第一梯队模型基本只给 API,你只能隔着网页用。Beam 不一样——权重文件本身可以下载、部署、量化、微调,模型这东西第一次真正交到你手里。10 月 16 日,这批权重才正式落到 Hugging Face 上,属于新鲜事件。

Beam 开源模型

这是什么:把前沿大模型的"钥匙"交给你

Reflection 是一家美国新成立的 AI 实验室,Beam 是它对外发布的第一个开放权重模型。发布当天,Hugging Face、Ollama、Google Cloud、AWS 等平台几乎同时上线了支持,属于一次"全平台同步"的开源动作。

对普通读者来说,开放权重和"只给 API"的区别,可以这样理解:

  • 只给 API:模型在别人家机房,你每问一句都要连网、按量付费,模型内部你碰不到。
  • 开放权重:模型文件像一个大压缩包,下载到你自己的机器上,你可以自己改、自己调、自己接进公司的私有系统,数据也不用出内网。

Beam 走的是后一条路,而且体量是"前沿级"的。

参数与能力一览(把每个数字讲成人话)

  • 501B 总参 / 23B 激活:模型里装了很多"专家",一次推理只叫醒其中一小部分干活,所以体量很大但跑起来相对省力。
  • 52 层,每层 256 个专家,每次挑 8 个:这是 MoE 的常见结构,专家越多、分工越细。
  • 100 万 token 上下文:一次能"记住"的材料非常长,适合塞进整个代码仓库或超长日志。
  • 纯文本进、纯文本出:不做图片/语音,专注你打字和它写代码这类活儿。
  • Apache 2.0:商用、改造、再分发都很宽松,这是它比很多"开放但有限制"的模型更实在的地方。
  • 5 档推理强度(low / medium / high / xhigh / max),外加跨轮保留思考的 preserve_thinking 和专用工具调用语法——这些就是给 Agent 场景准备的:多轮工具调用、长任务不掉链子。
  • 官方还配了一个 Rust 写的推理框架,号称能把 Beam 的性能榨到最好。

官方口径的性能(数据来自 Reflection 团队,BF16 版本)

测试项Beam说明
SWE-bench Verified81.6%真实软件工程修 bug
Terminal Bench v2.180.1%终端/命令行操作
LiveCodeBench88.3%竞赛级代码题
GPQA Diamond90.6%专家级科学问答
AIME 202697.7%数学竞赛
HLE(带工具)51.1%高难度综合推理

Reflection 自己给的定位是:编码和 Agent 任务上与 GLM 5.2 竞争、逼近 Qwen 3.8-Max;在绝对能力上,像 Kimi K3 这样的开放模型仍然更强,Beam 的卖点是推理时更省、更快。注意,这些数字是厂商官方口径,第三方独立复测出来之前,可以当作参考而不是定论。

想自己跑,要什么硬件

官方给出的换算很直白:

  • 权重一共 501B 参数,BF16 格式存下来接近 1TB,个人很难扛。
  • 更实际的是 NVFP4 版本,压到约 280GB,质量基本保住。
  • 2×B200(共 360GB)能勉强装下,但要留出空间给长上下文和并发,官方建议 4×B200;也可以上 2×B300(每块 288GB),或 8×RTX Pro 6000。
  • 没有 Blackwell 系列显卡?那就退回用云端的 serverless 推理,不用自己买机器。

一句话:这是给"有自己机房或云预算"的团队准备的,不是个人笔记本能直接跑的玩具。

怎么用:从零到跑起来

最省事的方式是 transformers,一行就起:

from transformers import pipeline
pipe = pipeline("text-generation", model="reflection/Beam-1.0-501B-A23B")
  • Day-0 就支持:transformers、SGLang、vLLM 三大主流库同步可用。
  • 想先试再买:Ollama Cloud 限期免费开放 Beam(做零数据保留),可以直接 ollama run beam:cloud 体验。
  • 云上一键:Google Cloud、AWS(SageMaker JumpStart / Trainium)也同步做了支持。

适合谁,不适合谁

适合:

  • 要私有化部署、数据不能出内网的团队;
  • 想自己微调、量化,把模型改成行业专用的人;
  • 正在做编码 Agent / 长任务自动化,需要一个"够强又能自己掌控"的底模的开发者。

不适合:

  • 只想调个 API 图省事、不想碰部署的个人用户——这类人用现成闭源模型更划算;
  • 没有大显存、又想在本地全量跑起来的人——光 BF16 就 1TB。

避坑与注意事项

  1. 别把"预告"当"已发布"。Reflection 早在 10 月 5 日的官方博客里就介绍了 Beam,但当时明说权重"本月稍后发布"。真正落到 Hugging Face 是 10 月 16 日——这也是本次事件的准确时间点。
  2. 先看量化版本再下手。个人玩先看 NVFP4/FP8,别一上来就拉 1TB 的 BF16。
  3. 显卡代际要挑对。NVFP4 需要 Blackwell(B200/B300 一代)原生支持,老一些的 H200 跑不了,得用 FP8 版本。
  4. 官方数据≠第三方结论。benchmark 是厂家自己跑的,独立榜单出来前留个心眼。

参考来源

  • Reflection 官方博客:https://reflection.ai/blog/introducing-beam
  • Hugging Face 官方博客:https://huggingface.co/blog/reflection-beam
  • Ollama 官方博客:https://ollama.com/blog/reflection-beam
  • Hugging Face 模型仓库:https://huggingface.co/reflection/Beam-1.0-501B-A23B
  • Google Cloud 博客(Day-0 支持):https://cloud.google.com/blog/topics/ai-infrastructure/day-0-support-with-5x-perf-for-reflection-beam

评论

0 条已公开
登录或注册后可以参与评论。

正在加载评论...