NVIDIA 推出开源多模态模型 Nemotron 3.5 Super VL 与本地智能体系列 Bolt
NVIDIA 发布开源多模态大模型 Nemotron 3.5 Super VL(120B 参数),支持跨 PDF、图表、表格与网页的视觉-语言理解,并推出面向本地部署的 Bolt 系列模型,强调企业可自主后训练、安全部署及工具调用能力。

企业级智能体在审阅信贷协议时,可能需要从表格中提取数据、解读图表、查阅相关网页,并应用公司自身的规则,然后才能生成有用的答案。
NVIDIA 最新推出的 Nemotron 包含三款模型,旨在应对这一系列任务及更多任务:一款融合语言与视觉理解能力的大型模型,以及两款专为本地智能体设计的较小模型。
Nemotron 3.5 Super VL 是一款拥有 1200 亿参数的开源模型,NVIDIA 表示该模型可在 PDF、图表、表格、图像和网页之间跨模态工作,同时遵循指令并调用工具。
Nemotron 3.5 Bolt 74B-A9B 24GB 面向本地编程、研究及其他多步骤任务。
Bolt E4B 4GB将于 10 月 23 日发布,目标是对话型及设备端智能体。
对企业而言,其潜在价值在于能够将模型适配至自身文档与流程,并自主选择其运行位置。NVIDIA 表示,组织可基于自有数据、工具与政策对 Super VL 进行后训练,并将其部署于符合其安全与数据驻留要求的基础设施上。Bolt 则为将某些智能体工作负载保留在本地系统提供了更小尺寸的选项。
Nemotron 内部的变化在于
Super VL 并非 NVIDIA 首款具备视觉材料阅读能力的模型。
Nemotron Nano 2 VL 已提供文档与图像分析功能。
今年 4 月发布的 Nemotron 3 Nano Omni 是一款拥有 300 亿参数的模型,融合文本、图像、音频与视频,NVIDIA 将其定位用于文档智能与图形界面阅读。
变化在于视觉理解能力在整体产品线中的定位。NVIDIA 于 3 月发布了面向智能体推理的 1200 亿参数 Nemotron 3 Super 模型,随后推出规模更大的 Nemotron 3 Ultra 以应对更高要求的工作。8 月发布的 Nemotron 3.5 Lightning 则针对更长智能体工作流中重复性高、吞吐量大的步骤。Super VL 将文档与图像理解能力纳入更高级别的 Super 系列,而 Bolt 则扩展了该产品线的本地化部署选项。
这种组合可能简化部分智能体的设计。例如,一个审核保险理赔的系统可能需要读取扫描件、提取结构化信息、将其与保单核对,并决定哪些内容需人工复核。使用单一模型处理文本与视觉材料,可减少在多个独立阅读系统之间传递信息的需求。开发者仍需测试该模型是否能准确提取事实并遵守相关规则。
NVIDIA 并非唯一涉足开源多模态模型领域的公司。Meta 的 Llama 4 与谷歌的 Gemma 4 同样支持视觉与文本输入。Super VL 的独特优势在于其依托更大规模的 Nemotron 模型、NVIDIA 提供的适配与部署工具,以及合作伙伴在针对特定任务训练该模型后所报告的成果。
合作伙伴定制后的报告
NVIDIA 表示,已有数十家机构正在对其自有任务开展 Super VL 的后训练。
其公告中提到了 Scale AI 为 Skydance 的供应商信贷财务智能体、EY 的并购尽职调查智能体所开展的工作;AfterQuery 为 Hebbia 的信贷协议分析所开展的工作;AI21 与 Alice 在网络安全领域的工作;以及 Mercor 在编程智能体方面的工作。Ramp、Dream、Lila Sciences 和 R1 等公司也在对该模型进行定制。
集成该模型的平台公司包括 Atlassian、CrowdStrike、Dassault Systèmes、Perplexity、Salesforce 和 Synopsys。
一张 NVIDIA 图表说明了这些合作伙伴为何选择定制而非直接部署基础模型。该图表展示了五项独立评估: 文档智能、安全攻击韧性、财务收据提取、科学实验及医疗保险理赔。
每根柱状图的浅绿色部分代表基础版 Super VL;深绿色部分显示后训练后报告的性能提升。这五项任务的提升幅度介于 9% 至 44% 之间。
在所示的每一项对比中,经定制后的专用模型得分均高于在该任务上测试的指定 Claude 或 GPT 模型:
其中 医疗保险理赔 任务取得的提升幅度最大,即相较基础模型的提升最为显著:图表显示,后训练后准确率从约 28% 提升至 72% ,相比之下 Claude Opus 5 在该评估中为 38%该评估。
安全攻击韧性 从约 35% 提升至 76%,相比之下,GPT-6.1 Sol 约为 66%。
这些是在不同专业化任务上定制的不同版本,并非声称基础 Super VL 模型在整体上优于那些模型。
NVIDIA 未向图表提供任务定义、样本量或测试协议,因此采购方应使用相同方法对其自身工作进行测试。
特定质量水平下的快速输出
NVIDIA 还将 Super VL 描述为比同类开源模型快至多五倍。其速度图表以“人工分析人工智能指数”(Artificial Analysis Intelligence Index)为纵轴,以每秒输出 token 数为横轴,输入 token 数固定为 100,000。 人工分析人工智能指数 以每秒输出 token 数为横轴,输入 token 数固定为 100,000。
Super VL 在指数得分约为 26 时,每秒输出 token 数接近 625。标示五倍对比的箭头起始于 Inkling Small,其每秒输出 token 数约为 125,指数得分相近。
NVIDIA 表示,人工分析(Artificial Analysis)在四块 Blackwell B200 GPU 上测得 Super VL 每秒 625 个 token 的结果。
该结果使 Super VL 在所展示对比中、在该得分水平下异常快速。但它并非整体得分最高的模型:随附的人工分析图表将其复合指数得分列为 26,低于包括 GLM-5.3-Flash(得分为 42)和 Qwen3.8-Flash-Next(得分为 40)在内的多个其他开源模型。
该 指数综合了涵盖专业工作、编程、科学与推理等领域的 10 项评估 。人工分析(Artificial Analysis)对图像输入单独评估,因此该复合得分本身并不衡量 Super VL 完整的文档阅读能力。
当智能体在长时间任务中执行多次调用时,输出速度可能至关重要;但该指标与完成整个任务所需时间截然不同。读取输入、调用外部工具、检查结果及修正错误均会影响总耗时。该图表仅在其声明的测试条件下确立生成速度的对比关系;它并未显示端到端工作流时间减少五倍。
Bolt 将智能体工作带入更小规模系统
Bolt 74B-A9B 总参数量为 740 亿,但每次激活 90 亿参数。NVIDIA 表示,原生 2 位压缩技术使其可适配 24GB 内存,并可在 RTX Spark 和 DGX Spark 系统上与其他应用程序并行运行。
该模型旨在支持通过本地智能体工具开展的网络研究、写作及代码调试等工作,无需将这些工作负载发送至云端托管模型。
NVIDIA 称 Bolt 在 PinchBench 上是其类别中排名第一的开源模型,在 BrowseComp 上则排名第二,尽管其公告未公布具体分数,也未界定该比较类别。
该模型已在 Hugging Face 上发布,支持 llama.cpp、Ollama、LM Studio 和 vLLM。NVIDIA 同样将 GeForce RTX 个人电脑、DGX Station 及 RTX PRO 工作站列为支持系统。
Bolt E4B 将本地化方案进一步压缩至 4GB,适用于语音助手、交互式角色及嵌入式界面。NVIDIA 表示,它支持多轮对话,并能在响应应用程序当前状态的同时调用工具。该模型将于 10 月 23 日上市,目标硬件包括 GeForce RTX、Jetson 以及 RTX/DGX Spark。
开发者可获取模型的渠道,以及生产成本
Super VL 的 开源权重已在 Hugging Face 上发布。NVIDIA 同样列出 OpenRouter, ModelScope 及 NVIDIA NIM 作为首发接入渠道。Bolt 74B-A9B 已在 Hugging Face 上发布。
NVIDIA 表示,这些模型采用其 OpenMDW 许可证,允许商业用途、微调及再分发。NVIDIA 同时发布训练配方与数据集,并通过 NeMo 及一份 技术架构指南提供定制化资源。
开发者可免费使用 NVIDIA 托管的限速 API 进行开发;而 NVIDIA 合作伙伴则提供由各提供商自行定价的托管 API,包括通过 OpenRouter 提供的服务。
组织可从 NVIDIA 的 NGC 目录下载 NIM 微服务。就其生产级服务而言,NVIDIA 报价为每 GPU 每年 4500 美元的 NVIDIA AI Enterprise 许可证费用。该费用仅为软件许可证费用,并不包含运行 Super VL 所需的 GPU 硬件、托管及运维等全部成本。
NVIDIA 表示,Super VL 针对 Blackwell 和 Hopper 架构系统进行了优化,包括 DGX Spark、DGX Station 及 RTX PRO 6000 Blackwell GPU,亦可在 Ampere 架构 GPU 上运行。
其声明的训练总量约为:预训练与持续预训练阶段共约 26 万亿 token,后训练样本 380 万,强化学习覆盖约 100 个开源环境。NVIDIA 还计划发布涵盖工具使用、金融、长上下文、安全性及视觉-语言理解等领域的数据集。
此次发布紧随 NVIDIA 达成收购 Hugging Face 协议之后,Hugging Face 是开源模型的主要分发平台。这笔约 129.3 亿美元的交易尚未完成:NVIDIA 预计将在 2027 年上半年完成交割,前提是获得监管批准及其他条件满足。该公司已承诺将继续向其他模型厂商及芯片供应商开放 Hugging Face。
对于企业开发者而言,尝试 Super VL 的原因很明确:测试一款可由其自行适配并部署、且处于其自主控制之下的模型,是否能足够准确地读取其文档并遵循其流程,从而证明其成本投入的合理性。Bolt 提供了一项独立测试,适用于用户希望在本地保留的工作负载。NVIDIA 当前已提供相关模型、访问路径以及用于启动此类评估的生产级软件定价;合作伙伴示例与速度图表所展示的是有待调查的方向,而非每一项部署所能达成的实际效果。
JOTO 企业落地观察
- 对企业部署而言,Super VL 支持基于自有数据、工具与政策的后训练,并可在符合安全与数据驻留要求的本地或私有基础设施上运行,使金融、医疗等强合规行业能实质性推进文档级 AI 落地,而不仅依赖云端闭源 API。
- 对智能体工程而言,Super VL 将文本与视觉理解统一于单一模型,可减少多系统串联带来的信息衰减与调度开销;Bolt 系列则提供从 24GB 到 4GB 的梯度化本地推理选项,使研究、编程、对话等任务能在边缘设备或工作站完成,降低云依赖与延迟。
- 对 AI 安全治理而言,NVIDIA 明确将后训练与强化学习纳入模型交付流程(如 380 万后训练样本、100 个开源环境 RL),并开放训练配方与技术架构指南,为企业构建可审计、可验证的模型治理闭环提供基础支撑,但其未公开测试协议细节,采购方需自行复现验证。
立即咨询 JOTO
JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询
想把这些做法用到你的业务里?
留下你的场景和痛点,我们帮你判断从哪一步开始。
联系我们


