技术前沿

如何确定大模型用例的业务价值、成本与风险？

2024 年 4 月 16 日

越来越多的企业开始使用大模型，发挥其在提高生产力、差异化竞争、业务转型等方面的价值。例如国金证券利用代码大模型实现智能化软件开发，开发效率提升30%。

大模型实现的价值不仅仅是那些成本和收入可明确量化的财务收益，如实现任务自动化和提高工作质量，还包括用户体验、服务水平、员工参与度、客户参与度和响应时间的改善以及新员工或初级员工技能的提升。

沙丘智库将企业的大模型应用分为三类：

• 防御型用例：改善特定任务，但不会给企业带来额外的竞争力，例如员工办公助手、代码助手、营销内容生成等；

• 差异化用例：改善特定的业务流程，为企业带来差异化优势，例如客服助手、销售助手等；

• 变革型用例：创造新的产品、市场或流程，通常具有行业属性，例如智能理赔（保险）、药物研发（医疗）等。

第一类：防御型用例

防御型用例可以使企业快速实现大模型的使用收益，但必须将这些用例整合到业务流程中才能带来持久收益。

防御型用例的投资回报率和生产力计算是直接节省的工作时间（有时也包括边际质量改进）。企业如果采购供应商提供的嵌入了大模型能力的应用，投入成本就是每月固定的订阅费用或者买断的费用。收益以每位员工节省的工作时间为基础，提高生产率并带来更多长期收益，例如随着时间的推移企业可能会减少额外招聘的员工或裁撤现有的员工人数。

第二类：差异化用例

企业可以通过将大模型嵌入领域、定制化和行业应用中，改善特定业务流程来实现差异化的竞争优势和更长久的收益。

差异化用例的投资回报率计算取决于大模型功能的可变消耗、可变定价和平台成本。提示的数量和长度是消耗成本的重要因素之一，定价方式通常基于总量。此外，每个token的价格可能也不同，给企业带来了具有挑战性和不可预测性的定价模式，甚至可能产生指数级成本增加。

业务部门需要仔细的进行敏感度分析，评估能够带来正向业务收益的用户和大模型调用的上下限，以及如果超出成本估算则在什么情况下终止项目。用例的确定需要具体而明确的范围界限，尽量保证只在那些具有高附加值的活动上进行成本投入。差异化用例的收益既包括工作时间的节省，还包括对关键绩效指标的提升（如提高客户满意度、增加收入等）。

第三类：变革型用例

变革型用例可以通过新的大模型产品以及大模型赋能的产品和业务模式为企业带来新的竞争优势，但成本和风险也非常高。

企业在考虑这类应用的投资标准时应优先考虑战略价值，而不是生产率的提升，并意识到巨大的交付和成本风险。虽然大模型技术栈正在不断完善，并慢慢降低采用成本，但这些成本仍然很高。

立即咨询 JOTO

JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务，帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。联系 JOTO 获取 AI 落地咨询

想把这些做法用到你的业务里?

留下你的场景和痛点,我们帮你判断从哪一步开始。

联系我们

如何确定大模型用例的业务价值、成本与风险？

立即咨询 JOTO

想把这些做法用到你的业务里?

开启企业级 AI 落地

填写需求单