大语言模型

独家对话火山引擎，企业级Agent落地难在哪儿？

2025 年 8 月 5 日

企业级Agent落地难在哪儿？火山引擎副总裁独家揭秘AI上生产线的关键路径。核心内容： 1. 当前企业AI落地面临的核心痛点：算力成本、数据孤岛、场景价值模糊 2. 火山引擎HiAgent平台的四大解决方案：技术工具、业务适配、安全保障、服务实践 3. 2025年AI Agent产业趋势：从基础设施到应用层的必然演进路径

2025年，大模型落地了，但好像又没全落。

硬币的一面是“Agent元年”，随着Manus的出圈，公众视线进入了Agent时间。就连今年世界人工智能大会（WAIC 2025）上，Agent也是当之无愧的主角，To C类型Agent样式繁多，To B类型Agent则离钱更近、离真实需求也更近。AI Agent的火热，某种意义上代表大模型应用的繁荣。

硬币的另一面，许多企业仍困在大模型落地难的泥潭中——算力成本高企、数据孤岛难破、场景价值模糊，展会上的炫酷Demo与实际业务的真实痛点之间，仿佛隔着一层“毛玻璃”，那些曾被寄予厚望的颠覆性应用，不少正尴尬地卡在概念验证阶段，等待一场更务实的进化。

没有企业想抛个硬币，指望正好能落在自己需要的那一面。企业需要的是确定性，是将已有的行业know-how借由大模型转化为真正的生产力。

据不完全统计数据显示，2024全年，智能体构建平台相关共有570个中标项目，372个项目公开金额，总金额达23.52亿元。而2025上半年，智能体构建平台相关中标项目数量已达371个，是去年同期的3.5倍，甚至接近去年全年总量的三分之二，待到下半年订单需求集中释放，今年全年的项目数量和金额将会非常可观。

值得关注的是，火山引擎自去年下半年起已连续夺得中标数量第一；今年上半年，更同时摘得中标金额与中标数量的双项第一，增长势头明显。近日钛媒体App独家对话了火山引擎副总裁张鑫以及火山引擎HiAgent产品负责人陈曦，在他们看来，企业落地AI需要“技术工具、业务适配、安全保障、服务与最佳实践”相融合的整体解决方案。

2025年，Agent上生产线元年

如果参照互联网，应用繁荣才意味着大模型产业真正的繁荣，没有企业想要拥有一个“互联网”，但所有企业都想拥有互联网化生出的各种能力，这些能力就以软件应用的形式呈现。

大模型产业的蔓延同样有迹可循，从预训练到精调，从算力基础设施到工具链，大模型产业行至应用层是一种必然，相比于又厚又重的底层基础设施，上层应用是一条更好、更快拥抱新技术的路径。此外，自上而下由业务到技术的驱动模式，企业也往往更愿意为看得见的价值付费。

火山引擎的认知也随市场需求发生了变化，张鑫谈到，早期火山引擎看到，应用效果很大程度由大模型本身决定，所以想通过好的模型让大家能够更容易地构建出好的应用。

之后火山引擎发现，有了好的模型并不和应用直接画等号，中间有一系列工程化实践，从提示词工程到知识库到工作流等，火山引擎要提供一个足够好的智能体的开发平台，要把新技术的链路补全；除了这样的技术工具，企业还需要考虑企业的数据隐私保护、多环境适配、企业业务系统打通、让AI Agent能无缝嵌入到企业已有业务流程中去，从而构建一个完整的企业AI落地解决方案，HiAgent这样的平台随之诞生。

一年多之前，火山引擎发布了HiAgent第一个版本。当时聊大模型的算力、算法、Token的人很多，聊Agent的人不多，只有一小部分企业选择开始使用HiAgent。随后大模型演变比大多数人预料的还要快速且剧烈，似乎之前的问题已经不是问题。

“2025年是Agent元年”，几乎所有人都这么说，但问题是，Agent元年是什么样的？在张鑫看来，Agent元年是一个乐观的预期，智能体可能会“遍地开花”，但智能体爆发需要在几个不同维度都达到临界点。

例如技术临界点，大模型能力的上限，决定了智能体应用效果的下限，今天的大模型已经达到博士生的水平；在商业和生态的角度，智能体最大的一个变化是使用工具，不管是通过MCP，还是谷歌提出的A2A协议，真正能够把智能体价值放大，还需要生态体系更加完善。

“应用之下还有很多平台和基建相关的工作，如果平台和基建的能力上限就在这里，那应用层的上限也就停在这里，”陈曦说。

“我觉得模型和智能体开发平台应该是相辅相成的，模型能力做得多一点，平台工程化的能力就可以少做一点，当然模型能力更强大，应用的效果也会更好，模型和平台共同决定了应用的上限。”

“大模型商业模式至今也分了几个阶段，初级阶段卖算力，收费单位是卡时，下一个阶段按token收费，其实是在算力基础上叠加了一部分大模型能力，再到下一个阶段是按使用量或者按订阅制来收费，但最终智能体要爆发，我认为应该按效果、按价值收费，比如营销额外产生了多少收益，节省了多少成本。”张鑫说。

一个新的共识是，上一轮所有的应用都会被AI重构。

咨询机构IDC预计，2025年生成式AI在企业的落地仍将优先聚集在办公助手等提升生产力的场景，其次是行业垂直业务场景。金融、能源、零售、制造是最值得关注的传统行业。从另一个角度，智能体将是大模型应用的重要方向，流程自动化、RPA、CRM、数字员工将优先受益于智能体升级。

从企业视角观察，大体路径首先是企业研发、生产、供应链、销售服务等环节所依赖的软件、硬件工具，都通过AI不断迭代升级；未来全面AI化的企业，将发生业务流程、商业模式乃至组织形态的变化。

“有通用大模型，但很难有通用智能体，智能体非常依赖于场景，”张鑫说。面对一个完全陌生的新技术，哪怕它具有足够的革命性、足够的势能，开端总是磕磕绊绊且不尽如人意的。这些现象背后的本质问题包括了模型能力边界的探索、To B场景的复杂多变、工程最佳实践的缺乏，以及数据知识质量参差不齐等。

目前企业客户认知存在两个极端，企业高层大多高估AI Agent，一线人员则很容易低估AI Agent，同时很多企业把AI Agent当作传统的软件工程，交付验收即结束，但是企业的业务场景在变，数据在变，领域知识在变，智能体和真人一样需要不断地学习和调教，AI Agent不是一次搭建的静态结果，而是持续调优的动态过程。

此外，某种意义上，在大模型产业和技术尚不成熟的阶段，企业要真正发挥新技术价值，需要付出的精力并不比技术服务商少，从0到1、从无到有的拓荒，只有企业本身才能实现。对比之下，互联网产业分工明确，是因为产业基础尽数具备，技术供应商只需完成最后一公里的服务，大模型生态还早得很。

跳出Agent，才能做好Agent

大模型的演化有一个特点，在技术发展的极早期，大部分技术都没到成熟的稳定态，所以大模型的优化必须做端到端的把控，典型代表就是现在还留在大模型牌桌的厂商，从底层芯片到云基础设施到大模型本身，都不能有短板。

如前所述，企业Agent的技术栈同样不成熟，这就要求技术服务商向前一步，做更多端到端的服务。

对于当下智能体开发平台的启示是，企业不愿意为工具付费，但愿意为结果付费，想做好企业级Agent，不能只做一个应用开发平台，而是沿着企业Agent的链条延展，最大程度降低企业的门槛、提高企业Agent的价值。

如果大模型是纵向的端到端，那么，AI Agent更像是另一个横向的端到端，当然，大模型的纵向能力也可以引入其中。

火山引擎也看到了企业的顾虑，在上周FORCE Link AI创新巡展·厦门站上，张鑫把HiAgent定位为“一站式智能体工作台”，为企业提供源源不断的数字员工与企业一同成长，这也是让“Agent走向生产”的一个具象化场景和标志。HiAgent智能体平台2.0大版本的产品升级，则体现在“上下左右”的迭代上，核心是基于Agent DevOps理念，HiAgent提供策略规划、能力开发、评测、发布、观测、优化全生命周期管理，实现从模型到应用的全链路打通。

具体来看，向右意味着开发和运营一体化，智能体不是一次开发的交付，而是一个数据不断产生、经验不断积累、知识不断丰富的过程，因此Agent需要持续运营，HiAgent从原来智能体开发加上了智能体运营，包括评估评测、会话管理、故障定位排查和数据优化等一系列调优过程。

类比云原生的DevOps理念，将开发（Dev）、运维（Ops）和测试（Test）等团队紧密结合，通过自动化流程和工具链的整合，实现软件从开发到运维的快速、高效交付。DevOps不仅仅是开发团队和运维团队的结合，而是涵盖了从需求分析、产品设计、开发、测试、部署到运维的全过程协作。

而在智能体全生命周期旅程里，Agent数字员工迭代变聪明的关键是“干中学”，并让数据支撑贯穿始终。HiAgent近期发布的数据流转模块补上了这块拼图，让数字员工干活时产生的数据会被自动记录到学习库：用户反馈了什么，哪里答错了，流程卡在哪，系统全记录；再通过清洗、分析、回流，变成数字员工的经验。和人类的经验一样，好用的Agent数字员工，不是入职即巅峰，而是越来越懂业务。

向上，除了智能体开发平台以外，很多企业还是要面临最后一公里的问题，火山引擎也提供了行业样板间和模板库，面向常见的一些场景，包括客服、营销、招聘、办公类等，进一步细分成教育行业、医疗行业、金融行业等。“如果说智能体开发是从0到1，有了模板以后企业就从0.8到1，企业可以基于模板补充符合自己需求的最后20%，小修小改就能快速完成。”张鑫说。

向下则是模应一体，模型和应用一体，除了提示词工程、知识库，大模型能力本身就是应用能力很重要来源。很多行业免不了要做自己的模型，把通用模型通过精调、强化学习，甚至通过精蒸馏达到一个非常专业的领域模型程度，然后再基于它做上层的智能体搭建，以期实现更好的效果是最好的。在HiAgent新版本中，向下融入了很多模型层面的工具链，支持企业客户做好训练等操作。

向左，企业需要一个统一的智能体入口。张鑫表示，跟企业合作多了以后就会发现，大家会遇到一个共同问题，基于HiAgent确实可以很方便地创建智能体，企业员工群策群力，一个企业内部往往会有几百个不同的智能体，但是所有智能体的使用非常零散，所有智能体分布在不同的入口。

为了方便让源源不断的企业智能体被员工找到、用得好，HiAgent 2.0推出Canvas交互门户。每个企业都有独特的流程和场景，智能体搭建要能够量体裁衣，让企业低门槛敏捷创建个性化的智能体，包括调用和纳管扣子、Coze Studio开源项目等智能体应用平台搭建的智能体。有了它，就好比有一个“智能前台”帮你调度所有相关团队，让你找数字员工比找真人更容易；而这个智能前台还能链接企业所有业务系统，从而用户不需要再在十多个浏览器或聊天框之间切换就能高效完成任务。

张鑫强调，“HiAgent的定位不仅仅是做一个技术工具，而是希望通过融合业务场景的最佳实践和服务保证，形成一站式的智能体工作台解决方案，帮助更多企业构建人和AI的混合型协作组织”。

Agent繁荣

大模型才是真繁荣

没有企业会为“拥有TCP/IP协议”而付费，但愿意为电商平台、ERP系统、社交媒体等买单。参照互联网发展史，应用爆发需要：带宽足够（能力）、成本够低（经济性）、开发够易（生态），对应到大模型支撑Agent落地，真正的繁荣总是诞生在“能力被消化”的应用层。

张鑫提到，互联网应用看重流量和生态能力，类比到企业领域，企业内部智能体一定不是孤立存在，新技术和老技术有相对长的共存期，企业内部已有的CRM、OA以及AP、各种算法等工具还会存在的，如何让智能体更好和企业已有系统打通，火山引擎也希望通过统一端能够完成，比如存量系统是否可以通过工具的形式发布到火山引擎提供的平台，让智能体可以自由调动，这也是HiAgent要做端到端的核心之一。

陈曦也提到，未来软件应用不一定都是Agent，很多场景依然需要传统的交互模式，Agent和传统应用相结合的方式会长期存在。

结合行业来看，企业市场的Agent有时会滞后于消费市场，但是在垂直领域的纵深要远远超过消费级应用。例如某企业基于其他开源平台开了Agent并应用于生产系统，但是并发只能做到200个，远远低于该企业所需，改换HiAgent之后才满足了生产环境的大规模并发。

更有趣的是，比如在使用HiAgent时，用户想总结一个会议，此时企业没有会议总结助手，HiAgent就会自动调用一个特殊的工具HiAgent-Browser-Use，像Manus那样在线用HiAgent搭建出一个会议总结助手智能体，搭建完成后自动注册成超级App背后的子智能体并执行会议总结，然后把结果渲染到画布上。这就好像是，HiAgent能让Agent自我繁衍，一个更高阶的Agent创建了新的Agent。

这也表明，HiAgent不只是一个开发工具，甚至不只是一个平台产品，越来越多的客户把HiAgent视为一个完整的AI能力中心，有别于以往的软件应用，HiAgent沉淀了客户的数据和知识，云基础设施、大模型、中间件等产品和服务都是过程，最终交付给企业的AI能力，这应当是AI Agent之于企业的意义。

张鑫还记得人机协同的“啊哈时刻”，广州公交集团的数字人，在内部居然有了自己的工号，在合同审核、车辆维修等多个领域持证上岗，且有自己的考评体系，硅基员工似乎真的成了企业生产环境的一部分，这也是他眼中Agent上生产线的实证。

于行业视角观察，张鑫认为，现在还是智能体开发平台的发散阶段，就像早期模型架构不统一的“百模大战”，最终MoE架构成为主流，大模型玩家自此收敛。目前Agent的标准也并不统一，缺少公认的Agent成熟度体系，所有人都认可Agent的战略方向，只是在落地和关键能力上有所不同。

火山引擎认为，除了开发平台以外，还有几个关键因素，首先是模型的能力，其次是极致的推理性价比，因此字节跳动在豆包大模型本身的投入上不遗余力，更注重自身模型的效果。同时在AI推理能力上，火山方舟加大更多投入，让Agent跑起来的时候性价比更高，这也是未来Agent繁荣很重要的一个因素。

最后不得不提的是，基于云计算的软件开发模式已经成为主流，但是开发者使用容器等理念反而减少了对云厂商的依赖，行业也有观点认为，Agent不会增加云厂商的价值厚度，也不会增加用户黏性。

巧合的是，张鑫在加入字节跳动之前，曾在谷歌深度参与K8s的开发，之后回国创立云原生容器平台企业才云科技，亲历了云计算时代的软件开发。“K8s让应用太容易迁移，这是开源的胜利，我们在谷歌内部开玩笑说，某种程度它反而有损于公有云厂商的价值，因为开发者可以将应用迁移到任何合适的环境，但是Agent可能不一样。”

在他看来，对企业或者开发者来说，Agent真正的黏性在于更具性价比的全栈基础设施，以及越用越好用的数据沉淀。

“Agent更依赖于基础设施，就像DeepSeek出来之后各家的推理成本差距很大，很多云厂商也不可用，火山引擎提供了更好的服务。另外，Agent天然对用户有黏性，因为它有长期记忆，用户使用同一个平台，用同一个产品构建了Agent以后，用得越多Agent越好用，数据可能是以长期记忆或者知识库的形式存在，这些知识和数据没有办法带走的话，Agent的效果也会大打折扣。”张鑫总结表示。

立即咨询 JOTO

JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务，帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。联系 JOTO 获取 AI 落地咨询

想把这些做法用到你的业务里?

留下你的场景和痛点,我们帮你判断从哪一步开始。

联系我们