企业AI规模化困局:成本失控成新瓶颈
Harness报告显示,25%的AI资金被浪费,超半数企业未设AI成本负责人;模型选型不当、token消耗激增与缺乏FinOps机制,正使成本管控成为AI落地核心挑战。

编辑注:欢迎阅读《Prompt》,这是您每周一次的AI格局动态简报。我们深入分析本周最重要的发展动向,并精选汇总值得关注的相关报道。
一份新报告发现,四分之一的AI资金被浪费,凸显企业面临的一个日益严峻的现实:挑战已不再仅仅是部署AI,而是控制其规模化运行的成本。随着AI支出在企业内部广泛铺开,成本管理正变得与采用该技术本身同等重要。
该发现来自AI软件开发平台供应商 Harness发布的《2026年FinOps领域AI现状报告》,该报告基于对700名FinOps及工程负责人开展的调研。报告显示,超过半数的组织尚未指定专人负责AI成本,导致难以追踪支出或识别浪费。
组织还经常为常规任务选用更大、更昂贵的模型,而AI采用率的持续上升正推高token消耗量,尽管单个token的成本正在下降。
该报告反映出企业级AI更广泛的转变趋势。过去两年,焦点一直集中在将生成式AI部署至全业务范围;如今,挑战则在于确保这些部署在使用规模不断扩大的同时仍具备财务可持续性。
Harness的上述发现并非孤立现象。
安永(EY)本周发布的另一项调研显示 ,组织仍在持续投资AI,但正更加密切关注 token成本与投资回报率(ROI)。 施耐德电气(Schneider Electric)与AMD共同发布了AI工厂蓝图,这进一步表明企业正从证明AI可行性转向构建可支撑其规模化应用的基础设施。
这一转变亦体现在云服务商(hyperscaler)财报中:微软(Microsoft)、Alphabet与Meta均强调AI部署与基础设施执行成效,而非单纯增加AI支出。
综上,本周各项进展表明,企业级AI下一阶段的发展特征将更多取决于企业如何高效管理相关投资,而非投入金额的多寡。
企业级AI似乎正遵循一种熟悉的发展模式。正如此前的云计算一样,早期争相采用技术的热潮正让位于对成本管控、回报衡量及可持续规模化部署的更高关注。那些将AI视为一项运营能力而非开放式实验的组织,未来或将处于更有利地位。
本周其他AI新闻还包括:
多数美国企业缺乏成熟的AI治理框架:尽管AI治理投资持续增长,但相对而言,仅有极少数美国企业已建立成熟的治理框架,这在企业部署越来越多自主AI系统之际引发担忧。
美国联邦通信委员会(FCC)以安全风险为由禁止中国仿人机器人进口:美国扩大了对中国仿人机器人的限制措施,援引国家安全风险,此举正值华盛顿加紧努力强化本国AI与机器人能力之际。
Core Scientific通过140亿美元AMD交易将其AI算力容量翻倍至1.1吉瓦(GW):该公司通过与AMD达成的140亿美元协议,将其AI基础设施规划扩展至1.1吉瓦,凸显业界持续加码投资于支撑日益增长AI需求所需的计算能力。
英伟达(Nvidia)推进AI开放安全联盟建设:英伟达联合数十家科技公司发起“开放安全AI联盟”(Open Secure AI Alliance),旨在开发开源AI安全工具,并主张更高程度的开放性将有助于强化网络防御能力,尤其是在AI系统日趋自主化的背景下。
AI即思维模式:面向首席信息官(CIO)的增长指南:一份新指南指出,CIO必须将AI视为一场组织变革,而非单纯的技术项目,需构建鼓励试验、学习与持续适应的文化。
AI推动数据中心不确定性——Uptime研究院《2026年数据中心调查》:Uptime研究院最新调查显示,AI正迫使运营商重新思考供电、散热及基础设施策略,以支持日益严苛的工作负载。
JOTO 企业落地观察
- 对企业部署而言,报告揭示AI已从‘能否用’进入‘能否可持续用’阶段——未设立专职AI成本负责人、盲目选用大模型执行常规任务,将直接导致ROI失衡与预算超支,倒逼企业将FinOps能力纳入AI治理标配。
- 对智能体工程而言,持续上升的token消耗量暴露了当前智能体设计中缺乏轻量化策略:未按任务复杂度分级调用模型、未嵌入缓存/摘要/降采样等成本敏感机制,亟需在架构层植入成本感知能力。
- 对AI安全治理而言,文中指出美国企业普遍缺乏成熟AI治理框架,而成本失控恰是治理缺位的显性后果——缺乏支出审计、模型使用策略与问责机制,使安全风险与财务风险同步加剧,治理必须覆盖全生命周期成本维度。
立即咨询 JOTO
JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询
想把这些做法用到你的业务里?
留下你的场景和痛点,我们帮你判断从哪一步开始。
联系我们


