各厂语言模型

vLLM 项目开源 Decision 3.0:6 个「只下判断、不聊天」的决策模型,最小 0.6B 能看图、能跑在手机上

2026年10月12日1 次阅读
vLLM 项目开源 Decision 3.0:6 个「只下判断、不聊天」的决策模型,最小 0.6B 能看图、能跑在手机上 Decision 3.0 开源决策模型

标题:vLLM 项目开源 Decision 3.0:6 个「只下判断、不聊天」的决策模型,最小 0.6B 能看图、能跑在手机上

---

10 月 10 日,vLLM 项目旗下的 Semantic Router 团队在 Hugging Face 的 vllm-sr 组织里,一口气上传了 6 个开源决策模型:d3、d3-flash、d3-mini、d3-nano、d3-lite 和 d3-edge,全部 Apache-2.0 协议。10 月 11 日,vLLM 项目官方 X 账号转发了团队维护者的介绍帖,算是给这批模型「盖了章」。有意思的是,直到目前,这个项目既没有发官方博客,也没有发新闻稿——公开的官宣渠道只有 X 和 Hugging Face 模型卡,媒体从 10 月 11 日起才陆续跟进报道。本文基于多家媒体转述整理,供参考。

这是什么:不聊天、只判断的「决策模型」

如果你期待一个能写文章、聊天的助手,那这批模型会让你意外:它们一个字都不会生成。

Decision 3.0 的 6 个模型是「决策模型」——你给它一个输入(一段文本或 JSON,可附带图片和视频),再给它一组命名好的问题,它输出的不是文字,而是每个问题的概率分布。问题有三种类型:

  • Choice(选择题):从候选答案里选,输出每个选项一个校准过的概率;
  • Noul(是非题):是/否判断,输出概率;
  • Score(打分题):输出分数分布。

关键是速度:所有问题在一次前向传播里全部答完——每个问题走一遍 readout 头,没有任何解码循环。对比传统做法(让大语言模型生成一段文字、再用代码解析出判断),这条路又快又省,还不会出现「模型答非所问导致解析失败」的问题。

家族一览:从 0.6B 到 26B,五个尺寸都能看图

6 个模型全部基于通义千问 Qwen3.5/Qwen3.8 系列底座做后训练,除了最小的 d3-edge,其余都带视觉编码器,能直接读图片和视频再下判断:

模型 总参数 其中视觉 底座 上架时间(UTC)
d3 26.09B 0.46B Qwen3.8-27B 10-10 09:38
d3-flash 8.39B 0.46B Qwen3.5-9B 10-10 17:23
d3-mini 4.54B 0.33B Qwen3.5-4B 10-10 17:14
d3-nano 2.21B 0.33B Qwen3.5-2B 10-10 17:14
d3-lite 0.85B 0.10B Qwen3.5-0.8B 10-10 17:14
d3-edge 0.59B — Qwen3.5-0.8B 10-10 23:49

从能塞进手机的 0.6B,到可以当主力判断层的 26B,尺寸全覆盖。仓库内容也相当完整:safetensors 权重、聊天模板、decision_config.json(锁定底座版本)、自定义建模代码(modeling_d3.py 等)、readout.safetensors 判断头,外加一份带 SHA-256 校验的 MODEL_MANIFEST.json。

成绩单:官方自报 Jev 决策指数第一

团队在自己的 Jev Decision Index 0.3.1 排行榜上放了成绩:d3 以 64.7 排第一,比上一代 Decision 2.0(27B)的 55.9 高出 8.8 分,也压过了 Perplexity Decider v1.1(62.8)等对手。

必须提醒:这些数字全部是官方自报——d3 自己的成绩是内部评估,对手的成绩是从排行榜上拉的实时数据,目前没有任何第三方复现。参考即可,别当成定论。

对谁有用

  • 做 Agent 编排的工程师:Agent 系统里大量环节其实是判断——选哪个工具、走哪条分支、这个结果行不行。这些环节用 27B 的聊天模型去生成文本再解析,又贵又慢;用专用决策模型,0.6B 都可能够用。vLLM Semantic Router 本身就是做这个「路由层」的开源项目。
  • 想在本地跑的开发者:6 个尺寸意味着从手机、笔记本到服务器都有得选,Apache-2.0 协议商用无障碍。
  • 做多模态判断的场景:5 款带视觉编码器,图片/视频进、结构化判断出,比如内容审核、素材筛选这类活。

值得注意的一点

这次发布的方式本身值得一提:先上权重,后写公告(甚至暂时没有公告)。GitHub 仓库的 Release 页面还停在 9 月 27 日的 v0.4.0,项目博客的最新一篇也还不是这批模型。换句话说,这是又一个「产物先行、叙事滞后」的开源发布案例——对于盯开源动态的人来说,光刷官方博客已经不够了,Hugging Face 组织页的提交记录同样值得关注。

权重下载地址:huggingface.co/vllm-sr(d3 / d3-flash / d3-mini / d3-nano / d3-lite / d3-edge 六个仓库)。

---

来源(正文已注明基于多家媒体转述整理):

  • HF 模型卡:https://huggingface.co/vllm-sr/d3-edge 等 6 库(HF API createdAt 时间戳实测)
  • orcarouter 10-11/12:https://www.orcarouter.ai/blog/decision-3-0-open-multimodal-decision-models
  • MarkTechPost 10-11:https://www.marktechpost.com/2026/10/11/what-is-decision-3-0-vllm-semantic-routers-new-open-decision-models/
  • vLLM 官方 X 10-11 祝贺帖(经上述两媒体交叉转述)
来源说明:本文基于多家媒体转述整理(orcarouter、MarkTechPost、Hugging Face 模型卡与 vLLM 官方 X),项目暂无官方博客或新闻稿。性能数字为官方自报,未经第三方复现。

评论

0 条已公开
登录或注册后可以参与评论。

正在加载评论...