JOTO
Contact us
← AI 智库
开源模型

Ling-3.1-flash 正式开源:让真实业务需求更快变成可用成果

2026 年 10 月 15 日

蚂蚁百灵正式开源 Ling-3.1-flash 模型,总参数约 560B,支持 1M 上下文。该模型在办公、医疗、软件研发等场景中可将分散需求推进为可用成果;在 Artificial Analysis 评测中智能指数达 41、输出速度约 210 Token/s;混合调用价格约 0.19 美元/百万 Token;本地部署权重从 534GB 降至 292GB,Hopper GPU 配置由 8 卡减至 4 卡。

模型需回应两层业务现实

企业和个人把模型接入业务,要回答两层问题:

  • 模型能否把不完整的需求推进成可用成果;
  • 能否部署在自有基础设施中,以可接受的等待时间和算力成本持续提供服务?

今天,蚂蚁百灵正式开源 Ling-3.1-flash,让团队能够在自己的任务和算力环境中,检验模型能力与推理效率。

Ling-3.1-flash 开源公告图
图:Ling-3.1-flash 开源公告

真实可用:让模型能力回应业务需求

从真实需求出发:把目标推进为成果

百灵发布 Ling-3.1-flash 时,就把模型放到办公、医疗沟通和软件研发等场景里:面对分散资料,它可以协助整理报告与汇报材料;面对零散症状,帮助梳理病史和就诊问题;面对旧代码,能够读懂原有实现、编写新功能,并依据测试结果继续修正。

这次开源,百灵希望更多团队能够在自有环境中部署和接入 Ling-3.1-flash,把这些场景能力融入自己的业务流程,更灵活地服务真实需求。

让高频业务调用兼顾能力、速度与成本

企业知识助手和代码助手经常要连续处理资料、生成内容,并根据反馈修改结果。模型既要具备处理这些任务的通用能力,也要让多轮调用保持足够快的响应。在 Artificial Analysis 的公开评测中,Ling-3.1-flash 的智能指数为 41、输出速度约为每秒 210 Token,面向高频业务场景提供智能指数与生成效率的双重能力。

Artificial Analysis 智能指数与输出速度对比图
图 1 Artificial Analysis:智能指数与输出速度

当模型需要持续处理大量请求,团队还要估算调用预算。Ling-3.1-flash 的混合调用价格约为每百万 Token 0.19 美元,在图示对照模型中位于较快输出、较低价格区间,面向高频调用场景提供生成效率与成本优势。

Artificial Analysis 输出速度与价格对比图
图 2 Artificial Analysis:输出速度与价格

从需求生成界面、视觉素材与交互原型

产品团队要验证一个想法,往往需要先看到页面布局和交互方式。Ling-3.1-flash 可以根据需求生成 React Native 移动应用的界面与组件初稿,让产品和研发围绕具体页面继续调整。在 Design Arena 的 Open Weights(开放权重模型)分类评测中,Ling-3.1-flash 在数据可视化、React Native 移动应用、3D 设计和游戏开发四个方向均位列第三,并在 SVG 生成和网站制作方向分别位列第四和第五(图 3)。这组公开评测结果,为模型在移动应用、交互图表、三维场景、游戏原型、矢量素材及网站构建等多种场景中的生成能力提供了参考。

Design Arena Open Weights 分类榜单
图3 Design Arena Open Weights 分类榜单

更多场景:让创意形成可运行的初稿

营销团队需要快速搭建活动页面,产品团队要把移动应用想法变成可讨论的界面,设计团队需要可继续调整的图形素材。Ling-3.1-flash 可以根据文字需求辅助生成营销页面、SaaS 界面、React Native 移动应用页面和可编辑的 SVG 素材,也能制作 Web 3D 交互原型与轻量化 H5 游戏。下面的视频选取部分示例,展示模型如何将想法转化为可以继续打磨的初稿。

从 8 卡到 4 卡:让 560B 级模型更容易进入生产环境

模型能推进任务之后,还要能用企业现有算力提供服务。Ling-3.1-flash 总参数约 560B,每个 Token 激活约 25B,最高支持 1M 上下文。针对本地部署,团队对 routed experts 采用 MXFP4 量化、dense 层保持 block-FP8,权重占用从约 534GB 降至 292GB。在对应的 Hopper GPU 测试配置中,服务部署由 8 卡降至 4 卡,让具备服务器级 GPU 的团队以更少卡数运行模型;实际需求仍随上下文、并发量和服务配置而变。

针对长资料处理,团队提供长上下文并行推理方案(PCP/DCP);工具调用也加强了对 JSON Schema 的支持,方便与现有业务接口对接。

企业知识问答、办公助手常要先读取较长资料,用户仍希望尽快看到回复。团队通过算子融合与 DSpark 投机解码减少推理开销:在平均输入约 25.47K Token、输出约 224 Token、缓存命中率为 76% 的模拟生产请求中,8 卡 Hopper 配置下的平均首 Token 时间为 604 毫秒,相邻输出 Token 平均间隔为 3.28 毫秒。这为长资料输入后的交互响应提供测试参考。

持续提供服务的业务系统,还需要在固定 GPU 预算内评估单实例能承接多少请求。在平均输入约 8.5K Token、输出约 800 Token 的 4 卡 Hopper 吞吐测试中,模型达到约 1.36 QPS,同时满足首 Token 时间 P50 小于 3 秒、相邻输出 Token 间隔 P90 小于 70 毫秒的测试约束。这为自有部署的容量规划提供参考。

从服务器到手机:Ling 3.0 系列的开源实践

Ling-3.1-flash 在对应测试配置中的服务卡数降至 4 卡。面向不同设备与运行框架,还需要社区继续适配。上一代 Ling 3.0 系列已有具体实践:

  • 在单台 DGX Spark 上运行 Ling-3.0-flash,驱动编码智能体构建、测试小游戏;
  • 在 16GB MacBook Air 上运行 Ling-3.0-tiny,搭建常驻助手;
  • 在 Galaxy A32 4G 上运行 Tiny GGUF,验证本地推理与工具路由原型;
  • 通过 PocketPal 在小米 14T Pro 上使用 Tiny 本地对话。

社区还提供 Flash GGUF、Tiny GGUF、Flash MLX 4bit、Tiny MLX 4bit、Flash NVFP4,以及 Flash-Fin、Flash-VL 的 GGUF 适配,方便按设备和推理框架选择。

百灵团队根据 Hugging Face 公开仓库的下载读数估算,截至 2026 年 10 月 14 日,Ling 3.0 系列官方模型及社区适配仓库的近 30 天滚动下载计数接近 100 万次。社区讨论中,开发者认可多工具调研体验,也提醒复杂代码仍需检查。感谢大家持续试用与分享;这些实践为 Ling-3.1-flash 开源后的业务应用提供了参照。

从在线体验到本地部署

Ling-3.1-flash 目前提供限时 2.5 折优惠。欢迎通过如下入口体验和使用模型,在具体任务中验证效果。

需要在自有环境部署的开发者,可前往 Hugging Face 或 ModelScope 获取开源权重,查看模型说明。

附录 | 更多任务评测结果

更多任务评测结果图表一
附录图一:更多任务评测结果
更多任务评测结果图表二
附录图二:更多任务评测结果

JOTO 企业落地观察

  • 企业部署大模型时,需在「能力上限」与「推理成本」之间做显性权衡;Ling-3.1-flash 将 560B 模型压缩至 4 卡 Hopper 可承载,意味着中等规模技术团队可绕过超大规模集群依赖,直接启动 RAG+智能体联合验证。
  • 该模型在 Design Arena 多项生成任务中稳定位列前三,说明其结构化输出(如 React Native 组件、SVG、JSON Schema)已具备工程可用基线;企业知识工程团队可将其作为「原型生成层」嵌入低代码平台流水线,缩短从需求文档到可评审 UI 的周期。
  • 首 Token 延迟 604ms、Token 间隔 3.28ms 的实测数据,指向一类典型部署场景:需实时响应但非强实时的内部办公助手;这类系统对 P90 延迟敏感度低于对外服务,更适合采用量化+投机解码组合策略平衡质量与吞吐。
  • 社区已出现从 DGX Spark 到 Galaxy A32 的全栈适配实践,表明模型架构对推理框架抽象较充分;FDE 驻场共创中,可优先复用 Tiny/Flash 系列的轻量适配经验,降低客户侧硬件改造门槛。

立即咨询 JOTO

JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询

想把这些做法用到你的业务里?

留下你的场景和痛点,我们帮你判断从哪一步开始。

联系我们
Contact Us

Start your enterprise AI rollout

Tell us your industry, team, and current pain points. We'll get back to you within one business day to help you decide what to tackle first, what data to prepare, and which platform fits.

WeChat
Scan to add us for a 1:1 chat
JOTO WeChat consultation QR code

Tell us what you need

Once we receive your details, we'll be in touch within one business day.