腾讯混元深夜交底:下一代 Hy 会更大,Hy4-mini 和 24GB 显存版已在路线图上,但没给日期
先讲结论:11 月 21 日凌晨,腾讯首席 AI 科学家姚顺雨带着混元团队在 Reddit 的 r/LocalLLaMA 做了一场公开 AMA。这场问答没有发新模型,给出的是一份"路线图交底":下一代 Hy 会明显变大,小尺寸和本地部署版本都在计划里,但所有时间点都是"敬请期待",没有一个具体日期。
需要先说清楚来源:本文基于多家媒体转述整理。Reddit 原帖在本次核验时无法直接抓取(返回 403),因此文中所有引述均来自智东西、新浪科技、网易等媒体在 11 月 21 日上午发布的现场整理稿,其中智东西是这场 AMA 的实际提问方之一。
这场 AMA 到底是什么
简单说,这是"开发者当面提问,模型团队当面回答"。混元团队此前刚连续放出两个模型:11 月 4 日的旗舰 Hy4,和随后主打低成本的 Hy4 flash。按腾讯提供给媒体的数据,Hy4 在第三方评测机构 Artificial Analysis 的智能指数榜上位列中国模型第二,在 Agent Arena 榜上居开源模型首位;Hy4 flash 的单任务成本则约为 Hy4 的二十分之一。
两款模型刚落地就开问答,问题也就集中在了三件事上:下一版会不会更大、小模型什么时候有、本地能不能跑。这三件事对普通用户的意义,其实比任何一条跑分都直接——它决定了你明年是继续租 API,还是能把自己那张显卡用起来。
往上:下一代 Hy 会"进一步显著扩大"
团队的原话是,下一代 Hy 模型的规模一定会"进一步显著扩大",并会继续投入大规模强化学习。
但当有开发者直接把数字问出来——"到 Hy4.5 时是不是会扩到 1.5 万亿到 2 万亿参数"——团队没有确认。这个细节值得注意:方向明确,数字未定。任何把"1.5T/2T"写成既定规格的转述,都是过度解读。
对字节跳动、Kimi 等厂商已经在推进 3T 甚至 5T 规模这件事,团队的回应是"做得扎实的较小模型也可以胜过更大的模型,而且成本更低"。这句话与他们自己的动作是一致的:Hy 系列目前仍在 700B 量级。
往下:Hy4-mini、Flash-Lite、24B–31B 稠密模型
这是本轮信息量最大的部分,逐条列清楚:
- Hy4-mini:已在开发路线图上,团队的答复是"当然"。
- Flash-Lite:明确预告会有,定位是低延迟、低开销场景,例如客服机器人、文档解析、分类、简单自动化。
- 24B–31B 稠密模型:正在考虑中,尚未立项确认。
- 更小的图像模型:会考虑做 5B–12B 级别的开源图像模型,并对新一代视频模型给出了"敬请关注"。
- 本地部署:确认会推出面向 24GB 显存设备的模型,也会继续做适合 64GB–128GB 内存设备运行的版本;对"当前规模模型经 Q4 量化后跑在 128GB 内存设备上"也给了肯定回答。
- 端侧视觉理解:团队认为激活参数约 30 亿(A3B)量级的模型已经能胜任看截图、看图表并围绕其推理这类任务,而不只是 OCR。
把这些拼起来,混元的策略其实很清楚:旗舰往上顶天花板,同时用一整套小模型去覆盖"跑在自己机器上"这个市场。后者才是开源社区真正在等的。
为什么架构上要这样取舍
团队在这次问答里第一次比较细地讲了 Hy4 的架构决策,这部分对做推理部署的人有实际参考价值。
在 GQA 和 MLA 两种注意力机制之间,团队反复权衡了很久。MLA 的模型质量更好——在相同 KV cache 大小下优于 GQA——但计算强度明显更高,在推理 GPU 上做推测解码时会直接卡在算力上。最终让他们敢用 MLA 的,是 DSA 的引入降低了 MLA 在解码阶段的计算开销。
Hy4 flash 则换了思路:引入混合滑动窗口注意力(SWA),把 KV cache 规模压到原来的四分之一,从而显著降低服务成本。团队同时引入了 LatentMoE 和 Engram 等新组件。对 MoE 的稀疏度,团队的说法是"并非越稀疏越好":过于稀疏的专家模型会占用大量显存,却无法充分利用 GPU 算力。
官方自己承认的三个短板
这部分反而最能说明问题,因为都是团队主动认的。
一是过度思考。 团队说,后训练阶段最难改善的行为就是过度思考。Hy4 以尽可能提升智能水平为目标,思维链过长是已知问题;Hy4 flash 上会用强化学习去缩短思维链。
二是过度拒答。 在网络安全训练上,团队只保留漏洞复现与修复相关数据,移除了漏洞利用、逆向工程等进攻性内容。代价是漏洞发现能力较强、漏洞利用能力相对较弱,并且"减少过度拒答仍是重要改进方向"。
三是递归自我改进还很早。 被问到 Hy4 能否通过 RSI 研发出下一代模型时,团队回答"仍处于早期",已有若干内部基准,但当前优先任务是打牢基础。至于按 AGI 能力分级自评,团队成员给出的个人判断是"大约 2.5 级"。
另外,开发者关心的生态适配,团队表示正在推进 llama.cpp 支持,并与 vLLM、SGLang 社区合作。
成本:一个可对照的锚点
Hy4 flash 的总参数量为 224B,含 64B Engram 参数,每个 token 只激活 12B。按腾讯披露的数据,在自建日常工作任务评测 WorkIndex 中,Hy4 flash 单任务成本约为 0.26 元,仅为 Hy4 的二十分之一;该结论基于 85 名内部用户、259 项工作任务的盲测。
要注意这个数字的边界:它是腾讯自建评测、内部用户盲测的结果,不是第三方复现。可以拿来当量级参考,不能当成跨厂商对比的绝对结论。
适用场景:谁该认真看这场问答
- 想把模型跑在自己机器上的人:24GB 显存、64–128GB 内存这两条线都被正面回应了,值得等。
- 做成本敏感型产品的人:0.26 元/任务这个量级决定了哪些场景能商业化。
- 正在选开源基座的人:Hy4 flash 已是开放权重,小模型补上后产品梯度会更完整。
- 关心国产模型路线的人:这次是"上游怎么想"的一手表态,比发布会 PPT 实在。
不适用场景:别指望从中拿到什么
- 想找发布日期的人:全篇没有明确时间点,下一代 Hy、Hy4-mini、Flash-Lite 都只有"敬请期待"。
- 想要确定参数量的人:1.5T–2T 只是开发者的追问,团队没有确认。
- 想找第三方独立评测的人:文中跑分与成本均来自腾讯口径或媒体转述,没有新的独立测试。
避坑:三条容易被带偏的地方
- "下一代 1.5T–2T"是提问,不是回答。 原始对话里这是开发者提出的假设数字,团队只回了"一定会进一步显著扩大"。转述时把它写成规格,是最常见的错误。
- 路线图不等于排期。 Hy4-mini、Flash-Lite、24B–31B 稠密模型三者的成熟度并不一样:第一个是"已在路线图",第二个是"预告会有",第三个只是"在考虑"。
- 别把这场 AMA 当成新模型发布。 它是 Hy4 / Hy4 flash 之后的答疑,不是新品发布会。真正的发布事件在 11 月 4 日和之后的 flash 上线。
怎么用:四步行动建议
- 第一步:如果你在等本地部署,先按 24GB 显存这条线做规划,这是团队明确肯定过的方向;24B–31B 稠密模型只当可能性看待。
- 第二步:现在就能动手的,是拿已开放的 Hy4 flash 权重在 vLLM 或 SGLang 上跑一遍自己的任务集,把 0.26 元/任务这个官方数字换成你自己的实际数字。
- 第三步:把 llama.cpp 的支持进度列进观察项。团队说在推进,一旦落地,本地推理的门槛会明显下降。
- 第四步:等下一代 Hy 时,优先看后训练和 RL 带来的提升,而不是只盯参数量——团队自己说了,Hy4 在后训练上"还有很大提升空间"。
参考来源
- 智东西 / 凤凰网:https://tech.ifeng.com/c/8yE5loSnUps
- 新浪科技:https://finance.sina.com.cn/tech/roll/2026-11-21/doc-iniznhsh6798925.shtml
- 网易:https://www.163.com/dy/article/LC8ODKI90534A4SC.html
- Reddit AMA 原帖地址(本次核验时无法直接访问):https://www.reddit.com/r/LocalLLaMA/comments/1y15w4a/tencent_hy_team_shunyu_yao_here_ask_us_anything/