JOTO
Contact us
← AI 智库
开源模型

0.6B起!Jev对手模型来了,开源多模态,登上全球测评榜一

2026 年 10 月 13 日

vLLM Semantic Router开源Decision 3.0系列决策模型,参数规模覆盖0.6B至27B,支持文本、图片与视频输入,不生成长文本,仅输出结构化判断结果及置信度。在Jev Decision Index榜单中,旗舰模型d3文本与视觉分均位列第一,超越Jev与微软Decision-1。模型权重已开源,支持本地部署与边缘推理。

vLLM Semantic Router推出Decision 3.0多模态决策模型

智东西10月12日消息,昨天,vLLM社区孵化的开源AI基础设施项目vLLM Semantic Router推出并开源多模态决策模型Decision 3.0系列。该系列模型能够根据输入内容完成分类、选择、是非判断和评分等任务,直接返回判断结果和概率,不生成长篇文本。

vLLM Semantic Router推出Decision 3.0
▲vLLM Semantic Router推出并开源Decision 3.0(图源:X)

Jev带动决策模型热潮,融资与用量数据凸显市场热度

这类不生成长文本,专门“做判断”的模型,近期因Jev走红而受到关注。Jev模型上线仅3天,其Token用量便达到1万亿;上线仅24天,其开发商TypeSafe AI便宣布获得a16z领投的8.7亿美元(约合人民币58亿元)融资,估值达到75亿美元(约合人民币502亿元)。

微软与vLLM-SR同步入局,技术路径差异明显

除Jev外,10月10日,微软也推出其决策模型Microsoft-Decision-1,通过Microsoft Foundry和OpenRouter提供服务。该模型基于Qwen3.5-9B微调,对预设选项评分、返回结构化判断及置信度,可用于工具选择、模型路由和Agent流程控制。

vLLM-SR的决策模型Decision 3.0共包含d3、d3-flash、d3-mini、d3-nano、d3-lite和d3-edge六款模型,参数规模覆盖0.6B至27B,相关模型权重已在Hugging Face开源。

Decision 3.0开源地址页面截图

开源地址:
https://huggingface.co/collections/vllm-sr/decision-30

多模态能力与本地部署是核心差异化优势

其中,旗舰模型d3基于Qwen3.8-27B打造,是一款27B的多模态模型,支持输入多张图片和视频。其余5款模型则基于不同参数规模的Qwen3.5打造。

与Jev不同的是,Jev主要通过云端API提供文本决策服务,Decision 3.0则开放权重,支持本地部署,可以直接处理图片和视频。

全球测评榜单登顶,多尺寸模型全面领先

目前,在决策能力榜单Jev Decision Index 0.3.1榜单中,d3文本决策指数为64.7分,公开集得分为65.5分,位列文本榜第一,超过Jev的60.1分。d3(27B)、d3-flash(9B)及d3-mini(4B)的成绩均领先于微软Decision-1(9B)的53.2分。

在视觉榜中,d3得分为71.6分,同样排名第一。此外,9B参数的d3-flash在文本榜中获得59.8分,在视觉榜中获得66.9分,位列对应规模模型前列。

Jev Decision Index榜单排名对比图

第三方工具选择测试验证实际工程能力

第三方评测方面,一位开发者在自己的网站上设置了75道工具选择题,让模型判断应调用哪个WebMCP工具。其本地Mac测试中,Microsoft-Decision-1答对71题,位列第一;d3-flash和d3-mini答对70题,并列第二;Jev答对69题;d3-nano则答对68题。

第三方工具选择测试结果对比图

典型应用场景与端侧实测性能数据

Decision 3.0可以用于客服分流、内容审核、风险识别和模型路由等场景。

例如,客户称其收到的搅拌机破损,希望换货,并附上收据图片和配送视频。模型可以在一次请求中回答三个问题:该由哪个团队处理、收据是否包含这台搅拌机,以及包裹如何送达,分别给出“退换货团队”、“是”、“当面送达”三个回答。

多模态决策示例流程图

团队公布的数据显示,在单张AMD Instinct MI325X GPU上运行时,d3处理文本请求的延迟中位数为55毫秒,处理包含图片的请求为273毫秒,处理10秒视频的请求为553毫秒。

还有一位开发者将d3-lite通过Core ML部署在搭载M5 Pro的Mac上,对1000个Pull Request(代码合并请求,PR)进行工作组分类与路由,总耗时约2分钟。实测视频显示,单个PR平均处理耗时约0.12秒,吞吐量约为每秒8.3个PR,整个推理过程在本地完成,无需调用云端API。

d3-lite在Mac上处理PR的实时演示动图

类Jev模型推动AI系统架构演进

随着AI应用对意图识别、任务分类和模型路由等能力的需求提升,类Jev决策模型有望承担更多轻量、结构化的判断任务。它们可以先识别用户意图、判断请求类型,再将任务交给更合适的生成模型处理。

对于多模型系统来说,这类模型能够减少通用大模型处理简单任务的负担,同时帮助系统控制推理成本、提升响应速度和路由准确性。

JOTO 企业落地观察

  • Decision 3.0系列模型明确区分「判断」与「生成」职责,为企业构建分层智能体架构提供了可即插即用的轻量路由组件,尤其适配需兼顾低延迟与多模态理解的现场服务场景。
  • 全系列模型支持本地及边缘部署,且d3-lite等小尺寸模型已在M系列芯片Mac实测可用,意味着企业可在不依赖云API的前提下,将结构化决策能力嵌入终端设备或私有IT环境,降低数据出域风险与长期调用成本。
  • 模型输出为确定性结构化结果(如标签、布尔值、分数),而非自由文本,显著简化下游系统集成逻辑,适用于风控规则引擎对接、工单自动分派、合规审核流水线等需强确定性的企业知识工程环节。
  • 其多模态输入能力(图文+视频)并非追求端到端理解,而是聚焦于跨模态一致性校验——如比对收据文字与包裹视频中的物流单号,这对构建可信AI工作流具有直接工程价值。

立即咨询 JOTO

JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询

想把这些做法用到你的业务里?

留下你的场景和痛点,我们帮你判断从哪一步开始。

联系我们
Contact Us

Start your enterprise AI rollout

Tell us your industry, team, and current pain points. We'll get back to you within one business day to help you decide what to tackle first, what data to prepare, and which platform fits.

WeChat
Scan to add us for a 1:1 chat
JOTO WeChat consultation QR code

Tell us what you need

Once we receive your details, we'll be in touch within one business day.