自2022年年底ChatGPT 3.5发布以来，AI的发展貌似进入了一个快车道。如果说各种模型层出不穷的2024年是AI技术突破的一年，那2025年一定是AI应用落地的一年。大量的企业从要不要用AI的纠结，开始转变为了怎么才能更好的使用AI…半年过去了，企业的AI应用落地进展如何？AI到底是一场“泡沫”，还是通过AI确实搞到了钱？仅仅是工具的转换，还是工作方式的一场变革？…最近，知名的投资机构ICONIQ Capital发布了《开发者手册：2025年AI现状报告》，针对这些问题给出了比较真实的答案。ICONIQ Capital是美国一家专注于服务高净值客户的投资企业，在科技领域尤其是风险投资方面有很强的实力，投资了包括Uber、Datadog和Snowflake等知名公司，同时管理着几百位硅谷顶级大佬的财富，扎克伯格，twitter的创始人杰克.多西，LinkedIn创始人里德·霍夫曼，好莱坞巨星汤姆汉克斯 等都是其客户。这份报告基于对300位企业高管的调研，包括CEO、工程负责人、AI负责人和产品负责人等关键决策者，涵盖了从初创公司到十亿美元巨头的各个发展阶段，深度剖析了当下企业AI产品应用的全貌，为我们呈现了一个从"如何构思、交付和规模化AI驱动业务"的完整路线。在这个AI重塑一切的时代，企业正在经历一场前所未有的变革，大多数传统的企业已经不再满足于原有的业务模式，而是积极地向AI领域拓展。"AI赋能"阶段，在现有的业务流程中加入部分AI应用的能力，整体业务流程不变，通过AI的能力提升业务流程中某一点或几点的能力。大约31%的受访公司选择了这种方式，他们将AI功能嵌入到现有产品中，比如在客户关系管理系统中加入智能推荐功能，或者在数据分析工具中集成自动报告生成能力。这种方式的优势在于风险较低，可以在不改变核心业务模式的前提下为用户提供更智能的体验。"AI扩展"阶段，基于原有业务流程进行优化，通过AI能力在原有业务的基础上开展新的服务。占比37%的公司采用了这种策略，这些公司会开发独立的AI驱动产品或服务，作为原有产品组合的补充。比如一家传统的项目管理软件公司可能会开发一个基于AI的智能助手，专门帮助用户优化工作流程和时间分配。"AI原生"阶段，整个业务模式都围绕着AI技术展开，核心业务流程基于AI应用进行重建。32%的公司选择了这条道路，对这些公司来说，AI不是锦上添花的功能，而是产品的核心引擎，模型训练和推理计算构成了他们为客户创造价值和实现增长的根本驱动力。报告中提到，AI原生公司在产品开发速度上显著领先，约47%的AI原生产品已经达到了规模化阶段，并证明了市场契合度，而AI赋能公司中只有13%达到了这个水平。这种差异背后的原因其实也好理解，AI原生公司从一开始就将整个技术架构、团队组成和资金配置围绕AI展开，这使他们能够更快地验证产品市场契合度并实现规模化。传统企业在整合AI功能时往往需要在保持原有业务稳定性的同时进行创新，这个过程可能错过一些快速发展的机会窗口。在模型的选择上，大多数公司展现出明显的实用主义倾向，80%的公司依赖第三方AI API，61%企业进行模型微调，32%开发专有模型。特别是高增长公司，77%进行模型微调，54%开发专有模型，比例明显高于其他公司，这也显示出它们对定制化和差异化的更高追求。在模型厂商选择上，OpenAI的GPT模型仍然占据主导地位，达到了95%的使用率，但多模型策略正在成为主流，平均每家公司使用2.8个不同的模型，这种多样化选择让企业能够针对不同用例优化性能、成本和合规要求。Anthropic的Claude、Google的Gemini和Meta的LLama分别占据第二到第四位，而DeepSeek等新兴模型的出现也为市场注入了更多选择。技术架构方面，68%的企业采用完全云端解决方案，这种偏好说明了当前AI基础设施的成熟度还远远不够，对大多数企业而言，自建基础设施的复杂性和成本远超过使用托管服务的边际收益。只有23%的公司采用混合架构，仅有很少量的公司选择完全本地部署，而且还主要集中在有特殊合规要求的行业。调研企业选择模型时，优先考虑的是模型精准度，有74%的受访者将其列为三大考虑因素之一，其次是成本(57%)、微调/定制能力(41%)、隐私(34%)和延迟(25%)。而在模型应用方面，企业面临的主要挑战包括：幻觉（39%）、可解释性和信任（38%）、证明ROI（34%）、计算成本（32%）以及安全性（26%）。在AI应用类型分布上，AI Agent成为最受青睐的选择，79%的AI原生公司正在构建基于自己业务的AI 智能体。AI Agent之所以受到如此关注，是因为它们能够自动执行复杂的多步骤任务，为用户提供真正的价值增益而不仅仅是效率提升。垂直领域AI应用（65%）和通用AI应用（56%）紧随其后，反映了市场对专业化解决方案的需求。垂直领域的AI应用通常针对特定行业或功能，能够深度理解领域知识和工作流程；通用AI应用则追求更广泛的适用性，通过通用能力服务多个行业。AI平台和基础设施（55%）以及核心AI模型（48%）的比例相对较低，说明大多数公司专注于应用层而非底层技术栈的构建。调研中，一位来自年收入为1000-2500万美元的企业产品副总裁解释道："我们的许多用户喜欢我们展示的见解和分析，但不愿投入时间去了解具体的产品的信息，我们正在构建AI Agent，这些智能体能有效地引导用户，使之发现并了解我们客户的产品。“AI应用的成本结构呈现出明显的阶段性特征，在早期阶段，人才成本占据预算的主要部分达到了57%，但随着产品成熟，基础设施和计算成本的比重显著上升，到规模化阶段，基础设施成本占22%，推理成本占13%，数据存储和处理成本占10%，而人才成本降至36%，这也反映了AI产品从劳动密集型向计算密集型的转变。在成本控制方面，API使用费用被认为是最难控制的成本（70%的受访者），其次是推理成本（49%）和模型重训练更新成本（48%）。这种不可预测性主要源于使用量的波动和外部API定价的变化，促使企业寻求更多的成本优化策略，包括转向开源模型（41%）、优化推理效率（37%）以及模型蒸馏和量化（28%）。报告进一步量化了各项成本随产品成熟度的增长幅度，以月度成本为例：模型训练成本：从预发布阶段的平均16.3万美元，飙升至规模化阶段的150万美元 。模型推理成本：从预发布阶段的10万美元，激增至规模化阶段的160万至$230万美元（高增长公司更高） 。数据存储与处理成本：同样呈现指数级增长，规模化阶段的月度开销可达百万美元级别 。在模型训练和微调方面，核心深度学习框架如PyTorch和TensorFlow仍然受欢迎，但AWS SageMaker和OpenAI的微调服务等全托管平台也占据了半壁江山，这表明团队在"自建"和"托管"方法之间存在一定分歧。在LLM和AI应用开发领域，LangChain和Hugging Face的工具集领先，表明团队明显重视简化提示工程、批处理和与公共或自托管模型接口的高级库。大约70%的受访者还表示他们使用私有或自定义LLM API。对于监控和可观察性，近一半的团队依赖于其现有的APM/日志堆栈（如Datadog、Honeycomb、New Relic等），而不是采用ML特定工具，这表明集成的易用性和组织标准化常常胜过专门的AI监控的好处。在推理优化方面，NVIDIA的TensorRT和Triton推理服务器共同占据了超过60%的采用率，凸显了NVIDIA在GPU部署优化方面的主导地位。在模型托管领域，大多数团队直接通过OpenAI、Anthropic等提供商的API访问模型，其次是AWS Bedrock和Google Vertex AI等统一的企业级ML平台。对于向量数据库，Elastic和Pinecone领先采用，反映了团队如何改造现有的全文搜索平台以支持嵌入，或采用专门构建的托管向量引擎。在代码辅助工具方面，GitHub Copilot被近四分之三的开发团队使用，其次是Cursor（50%的受访者使用），这也表明市场对多种IDE集成的需求。在内部生产力用例方面，编码辅助遥遥领先，其次是内容生成/写作辅助和文档与知识检索。高增长企业平均33%的代码由AI编写，而其他公司这一比例为27%。报告称，这些GenAI的使用平均带来15-30%的生产力提升。AI时代，企业不仅需要先进的技术，更需要合适的组织结构来支撑，调研发现，随着公司规模的扩大，组织架构呈现出明显的演进模式。在收入达到1亿美元的关键节点时，许多公司开始设立专门的AI领导职位，收入在1亿到2亿美元的公司中，50%设立了专门的AI领导职位，而在10亿美元以上的公司中，这个比例上升到61%。这种趋势也表明了AI治理复杂性的增加和对集中化AI战略所有者需求的提升，当AI项目从少数几个实验性功能发展为企业核心竞争力的重要组成部分时，需要专门的人来协调跨部门协作、制定技术路线图、管理风险和机遇。在具体的AI专业角色方面，AI/ML工程师是最普遍的需求，88%的公司拥有这类职位，67%的公司计划继续招聘，数据科学家紧随其后，72%的公司拥有，45%计划招聘。AI产品经理是另一个重要角色，54%的公司已经配备，46%计划招聘。但在招聘过程中，AI/ML工程师的平均招聘周期最长，需要70天，这反映了这类人才的稀缺性和竞争激烈程度。相比之下，数据科学家需要68天，AI产品经理需要67天，这些数字都明显高于传统技术角色的招聘周期。在招聘挑战方面，46%的公司认为他们的招聘速度不够快，主要瓶颈是缺乏合格候选人（60%），其次是成本限制（49%）、竞争激烈（35%）和内部流程挑战（25%）。这种情况就像是在一个新兴行业中，每个人都在争夺有限的专业人才资源。关于工程团队中AI专注比例的规划，受访企业平均预计2025年将有20-30%的工程团队专注于AI工作，高成长公司的这个比例更高：他们计划在2025年将28%的工程团队投入AI工作，到2026年这个比例将上升到37%。相比之下，其他公司的相应比例分别为18%和28%。高成长公司显然将AI视为更核心的战略重点，愿意投入更大比例的工程资源。在AI合规和治理方面，大多数公司已经建立了基本框架，66%的公司进行人工监督，42%提供可解释性和透明度措施，38%实施偏见检测和缓解技术。但只有13%的公司设立了专门的AI合规和治理团队，说明这一领域仍有很大发展空间。随着AI产品的成熟，透明度要求也在提升，尤其是在医疗、金融等受监管行业，在规模化阶段，25%的公司提供详细的模型透明度报告，47%提供AI影响结果的基本洞察。这种渐进式的透明度增长反映了监管要求的提升和客户信任建立的需要。ICONIQ这份报告，与其说是对2025年现状的总结，不如说是吹响了AI下半场战事的号角，我们可以看到企业AI应用正在从实验阶段快速迈向工业化阶段。仔细品味报告里的这些数据，我们会发现几个特别有意思的信号。“OpenAI”的信仰时代已经过去，现在是“多模型时代”,报告里提到平均每家公司用2.8个模型 ，这背后实际是极致的成本核算。大家都在搞模型路由，哪个API便宜好用、速度快，就调用谁，这不再是技术选型的信仰问题，而是精打细算的数学问题。大家也终于从“AI能做什么”的迷茫期，进入了“这玩意儿到底多少钱，能赚回来吗”的贤者时间。ROI这个词在报告里被反复提及，尤其API费用被列为最难控制的成本 ，这说明什么？说明GTM团队和产研团队现在必须坐在一张桌子上算账了。否则模型一跑，GPU一转，钱烧得比火箭还快。AI原生公司和AI赋能公司的差距，正在无情拉开，报告数据很诚实，原生派跑得就是快 。技术栈依然是“战国时代”，虽然有几个大家耳熟能详的品牌，NVIDIA、OpenAI、LangChain等看似地位稳固，但每个细分领域都有一堆小玩家在疯狂涌现 。这说明市场格局远未尘埃落定，对于创业公司来说，到处都是机会。你的工具只要能解决某一个“痛”点，无论是帮人省钱、提升精准度，还是简化部署，都就能在这场混战中分一杯羹。2025年的AI战场，不再是空谈概念和demo的表演赛，而是进入了比拼工程能力、成本控制和商业化落地的残酷淘汰赛。本文来自至顶AI实验室，一个专注于探索生成式AI前沿技术及其应用的实验室。致力于推动生成式AI在各个领域的创新与突破，挖掘其潜在的应用场景，为企业和个人提供切实可行的解决方案。A: AI Agent智能体最受欢迎。79%的AI原生公司正在构建AI智能体，因为它们能自动执行复杂多步骤任务，提供真正价值增益而非仅仅效率提升。其次是垂直领域AI应用（65%）和通用AI应用（56%），反映市场对专业化解决方案的需求。A: OpenAI仍是主流但不再独霸。95%的企业使用OpenAI的GPT模型，但多模型策略成为主流，平均每家公司使用2.8个不同模型。企业开始精打细算，哪个API便宜好用就用哪个，不再是技术信仰问题而是成本核算问题。Q: 企业大量应用AI后会不会带来组织架构的变化？A： 会显著改变组织架构。收入达1亿美元的公司中，50%设立专门AI领导职位；10亿美元以上公司这一比例达61%。88%的公司需要AI/ML工程师，但平均招聘周期长达70天。高成长公司计划2025年将28%的工程团队投入AI工作。
立即咨询 JOTO
JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务，帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询
