JOTO
Contact us
← AI 智库
开源模型

开源与端侧:英伟达新AI模型的战略逻辑

2026 年 10 月 16 日

英伟达发布三款完全开源的Nemotron 3.5系列大模型,涵盖1200亿参数多模态旗舰版及两款轻量级对话模型,全部开放权重、数据集与训练配方,并上线Hugging Face。此举强化其开源生态战略,应对中国低成本高性能开源模型竞争,同时支撑GPU硬件生态与本地智能体部署。

Photo of Nvidia logo
盖蒂图片社

在开放型与封闭型人工智能加速竞逐的背景下,该供应商以更多开源模型推进其开源路线的战略。

英伟达本周早些时候推出了Nemotron 3.5 Super VL,这是一款拥有1200亿参数的模型,该公司称其可提供“快速完成”(fast-track completion)能力,即人工智能模型几乎能即时完成任务,同时具备“始终在线”(always on)智能体的准确性。

除这款旗舰级模型外,英伟达还发布了Nemotron 3.5 Bolt 74B-A9B 24GB和Nemotron 3.5 Bolt E4B 4GB。64B版本针对平衡性与速度进行了优化,而E4B则专为对话式智能体设计。

全部三款模型均为完全开源,英伟达公开了其权重、数据集及训练配方。此次发布紧随英伟达于8月发布另一款完全开源模型Nemotron 3.5 Lightning之后。

这些新模型已在Hugging Face平台上线。它们是英伟达自上月同意收购 该开源人工智能平台以来发布的首批模型。 此次发布凸显了自Meta首次推出其Llama开源权重模型系列以来,开源模型范式在过去几年中的演进。

近年来,开源模型规模显著扩大,其中突出代表是 Meta于2024年推出的4050亿参数Llama模型。

“我们所认为的‘小型模型’已变得相当庞大,”Informa TechTarget旗下Omdia公司分析师亚历山大·哈罗韦尔(Alexander Harrowell)表示。

他补充称,这一变化将惠及企业,因为企业能够更有效地对模型进行微调与定制。此外,企业如今可获取的模型数量更多,市场上开源模型亦日益增多,从而推动更充分的竞争。

英伟达与开源

随着最新Nemotron模型的发布,英伟达持续支持 开源倡议 ,并继续引领美国人工智能市场开发开源模型的运动,以更好应对低成本、高性能的中国开源权重模型的竞争。

近期一个实例发生于本周早些时候,当时英伟达将其GPU编排与AI工作负载平台Run.ai开源。

“他们关注构建开放人工智能生态系统的必要性,”哈罗韦尔表示,并补充称这一动机并非完全纯粹,因为英伟达自身亦存有利益考量。

据哈罗韦尔称,尽管英伟达发布开源模型旨在支持开源社区,但这显然并非唯一原因。

“他们此举是为了支撑围绕其GPU的更广泛生态系统,”他表示。

与此同时,部分英伟达客户亦拥有自主AI芯片。例如,谷歌提供其TPU,亚马逊提供Trainium AI加速器芯片,而OpenAI正研发其自有的 AI芯片Jalapeño。

哈罗韦尔称:“你可以将此视为一种[全行业范围内的]集成趋势”,他指的是随着谷歌、亚马逊和OpenAI开发自有芯片,它们可将这些芯片与其AI模型集成并加以优化。“模型、模型软件与定制芯片的紧密集成。”

他指出,多数开源权重模型被迅速取代,因为公民开发者纷纷从旧版开源模型转向新版模型。

“我眼下甚至能亲眼看到人们正在讨论如何立即用Nemotron Bolt取代 Qwen 3.6 35B ,”哈罗韦尔表示,所指为中国科技巨头阿里巴巴广受欢迎的开源模型。

智能体AI与本地计算机

哈罗韦尔进一步指出,英伟达借由最新Nemotron模型发布聚焦于专用智能体,这对开源社区而言至关重要。

“许多开发者正寻求一款优质开源基础模型作为代码底座,以支持定制化智能体,”他表示。他补充称,Nemotron 3.5 Super VL与Bolt模型的架构支持更优的内存扩展,从而实现更大的上下文窗口,而这在智能体AI中极具价值。

与此同时,业界一大关键问题是:人工智能能否从数据中心迁移至本地PC或共享设备(例如英伟达DGX Spark及苹果Mac Mini)上运行?

哈罗韦尔表示,其中一个瓶颈在于企业需适应“打包软件再次于本地计算机上运行”的理念,而非仅限于云端或作为网络服务运行。

JOTO 企业落地观察

  • 企业部署层面:三款模型均支持4GB–24GB显存设备运行,且明确适配DGX Spark与Mac Mini等边缘/本地平台,意味着企业可绕过公有云依赖,在自有硬件上完成微调与推理,降低数据外泄风险并提升响应实时性。
  • 智能体工程层面:Nemotron 3.5 Super VL与Bolt架构优化内存扩展能力,支持更大上下文窗口,直接提升智能体在长程任务规划、多步工具调用与状态保持方面的稳定性,为开发者提供更可靠的开源底座。
  • FDE落地层面:文章指出企业需适应‘打包软件回归本地PC’的新范式,而英伟达通过开源+端侧适配双路径,实质性降低AI应用集成门槛;但文中未提及其模型是否通过国内主流信创环境认证,FDE规模化落地仍需验证软硬协同兼容性。

立即咨询 JOTO

JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询

想把这些做法用到你的业务里?

留下你的场景和痛点,我们帮你判断从哪一步开始。

联系我们
Contact Us

Start your enterprise AI rollout

Tell us your industry, team, and current pain points. We'll get back to you within one business day to help you decide what to tackle first, what data to prepare, and which platform fits.

WeChat
Scan to add us for a 1:1 chat
JOTO WeChat consultation QR code

Tell us what you need

Once we receive your details, we'll be in touch within one business day.