跨越鸿沟：大语言模型商业落地的最佳实践(上)

前言

    管理大师杰弗里•摩尔在其名著《跨越鸿沟》一书中，将高科技新产品的市场分为早期市场和主流市场两类。早期市场用户主要是早期采用者和内行人士，除此之外的其他用户构成主流市场，主流市场用户奉行实用主义策略，既想体验新技术带来的好处，又不愿意经受新技术的潜在风险，因此他们倾向于等待，并愿意听取早期市场用户的意见。

    在摩尔看来，早期市场和主流市场之间存在一条鸿沟，绝大多数高科技新产品的市场推广都止步于此，成为创业潮中的牺牲品，少数跨过这一鸿沟的企业，则会进入一片广阔的市场空间，迎来高速增长期。

    今天的AI技术产品也是如此。自从ChatGPT问世以来，大型语言模型发展的时间不过两年时间。大型语言模型强大的功能引发了一部分有远见的早期采用者的浓厚兴趣，他们开发、使用了这些AI产品。但是这些产品目前还没有在主流市场得到大规模的推广和使用。2024年被广大媒体称之为AI技术商业落地的元年。当前，几乎所有的AI公司都在早期市场和主流市场之间的鸿沟边上摸索前行。

    笔者最近走访了数家AI创业公司、AI项目甲方以及与部分AI行业的技术大佬交流学习，结合本人在AI项目实施的亲身实践，发现大语言模型在商业落地时，所遇到的困难与挑战都是一样的。就项目实施的结果而言，失败的项目千差万别，落地成功的项目都基本上是一样的--都执行了基本相同的正确方法论。

    本文就来探讨一下大语言模型在商业落地应该有的正确姿势，我想从5个方面来讨论：   

    所有这些方面，都将贯穿两个词：落地和务实。内容比较长，文章将分为上下两部分。一家之言，欢迎大家一起讨论交流。如有进一步交流或商务合作，可以留言或加入微信（微信号：gulianzhang2018  请注明AI合作）。

01

对AI的几种错误认知

    由于AI技术的突然爆发，并且颠覆了传统软件的许多固有的定式，当前人们还来不及学习和适应，因此对AI存在诸多的错误认知。

    认识极端化

    对AI的认识通常有两种极端表现：一种是极端乐观迷信，尤其是那种认为AI能像电影《终结者》那样无所不能；另一种是极端悲观，认为目前的AI技术只是个玩具，或者说是泡沫，如同元宇宙、区块链技术。在这两种极端认识中，极端乐观迷信对造成AI项目落地失败的风险最高，尤其需要引起注意。

    这是因为：AI产品要想跨越早期市场和主流市场之间的鸿沟，进入一片广阔的市场空间，需要形成口碑传播。什么是口碑？小米的雷军对此有着非常精辟的总结：口碑就是产品的表现高于用户的预期。如果用户的预期非常之高时，而你的产品又表现平平，自然无法形成口碑。因此，消除用户对AI极度乐观的认识，适当降低用户的期望值，对AI项目落地成功是十分有益的。记住，这绝对是苦口婆心的经验！

    认识片面化

    关于AI技术的研究，虽然已经有二三十年了，但绝大多数人对AI的接触恐怕只是最近两年，也就是ChatGPT问世后的这一段时间，以至于在很多人心目中，大模型就是AI，AI就是大模型。其实，大模型只是AI的一种形式，还有其他的AI算法浩如烟海。大模型之所以比起其他AI算法突出，主要是因为其通用性的强大以及潜力的巨大。但这并不意味着，在当下时刻，在一些特定的场景的任务，大模型就一定比其他算法要好。

    认识片面化最大的危害就是，在AI项目实施的过程中，你本来有72种武器，结果你只看见了一种。你解决问题手段太单一，以至于有许多问题你觉得无解，这就导致了项目落地的失败。尤其是在当前，大模型还没有进化到完美的程度时，有些技术难点，依然需要用一些传统的算法进行解决或者补充，大模型、中模型、小模型都是你手里的武器，它们可以帮助你度过难关。

    对智能与忠诚的区别认识不足

    对人而言，智能与忠诚是两个维度的概念。老板招员工，年轻人找对象，都常常面临着智能与忠诚的二选一问题。同时具有智能与忠诚品质的情况，只能靠缘份。

    AI也存在类似的情况：即AI的创新创意能力与准确度、忠实度。AI与传统软件不同（传统软件我更愿意称之为程序）：传统软件是计算机按照程序员事先内置好的逻辑程序运行，运行结果是稳定、可预测的，具有很高的忠实度，但程序不具有智能（或者说智能水平不会超越程序员预置的逻辑）。而AI运行的逻辑不是程序员事先预置的，它是建立在对海量训练数据概率计算之上的。正是这种依概率决策的模式，才会诞生自主的智能，才会有AI的创新创意能力。

    理想情况下，完美的AI是应该既具有高度智能又能具有很高的准确率和忠实度。但更多的情况，二者是鱼与熊掌不可兼得（人往往是如此，AI当然不例外）。所以，当你准备开发一个AI产品时，一定要做好充足的调研，你的目标客户，在面临智能与忠诚的二选一问题时，更倾向于选择哪一项。如果你的客户对准确度、忠诚度要求很高，那么你最好减少AI介入，让更多的功能由传统程序来承担。如果你的的客户对创新创意能力要求很高，那么你可以加大AI对功能的介入。

    工业界在这方面是有范例的，如汽车的自动驾驶，依据AI介入的程度不同分为L1到L5五个等级（辅助驾驶、部分自动化、有条件自动化、高度自动化、完全自动化）。我们其他AI产品也可以依据这个原则，确定我们产品的AI介入程度：

    如何正确认识AI 

    我认为，造成上述对AI错误认识的根源在于，大多数人并不了解AI技术的原理，对智能的本质认识模糊。所以AI项目的领导者一定要深入理解AI技术的原理，包括各种机器学习的算法、深度学习的技术原理、Scaling Law、语言学原理，智能与语言之间的关系等等。

    经常有人问我，到底现在AI技术发展到什么程度了，你能用几句简单通俗易懂的话描述一下吗？我总是这样回答：

    就现有公开展示的AI技术而言，AI技术对人类的帮助，大致相当于警犬对警察的帮助：它听得懂人类的语言和指令，经过人类的培训，在一些专业领域工作远胜于人类的表现；它比人类吃苦耐劳，不知疲倦，它向你索取的报酬仅仅是每天一盆狗粮；当然它偶尔也会顽皮，惹你生气，但你离不开它，它的作用无可替代。

    最后，如果你想得到这样一条警犬：你得有一个优秀警犬训导员。AI项目的实施者，就是警犬训导员。项目实施的成果，就是一条优秀的警犬。

02

AI项目立项规划

    当正确认识到AI技术后就会发现：AI项目的立项规划，比传统软件项目的立项规划要复杂一些。我认为，除了遵循传统软件项目立项规划的原则外，还需要建立起两个三维坐标系，以帮助我们正确认识定位自己项目所处的位置，从而准确地把握项目的特点，识别项目的风险和难点。

    第一个坐标系，我把它称之为应用场景坐标系。AI项目在应用场景坐标系的位置主要由用户的主观需求决定；

    应用场景坐标系的第一个维度是产品的客户，是to B或to C，即面向企业用户，还是面向一般大众；第二个维度是产品对准确率（忠诚度）的要求的高低；第三个维度是产品的交付方式，是一次性交付还是渐进迭代交付。

    第二个坐标系，我把它称之为资源坐标系。AI项目在资源坐标系的位置主要由用户的客观现实决定。

    资源坐标系的第一个维度是硬件算力是否充足。这既包括AI企业自身的硬件算力，也包括产品的使用端--客户的硬件算力。第二个维度是大模型的能力强弱。我们绝大多数AI企业没有能力从零开始训练一个大模型，都是使用开源（或者商业授权）大模型，因此，这些开源的（或者商业授权）大模型，也是我们资源的一部分。第三个维度是数据是否充足，AI的能力与数据是否充足息息相关，这也是当前所有AI项目成功落地所面临的共同挑战（本文后续会专门讨论数据相关的内容）。

    AI项目在这个两个三维坐标系的位置，有时是相互影响、相互制约，甚至是相互冲突的：

    To B项目一般要用到企业内部行业知识，对模型的准确度、忠诚度要求比较高。To C的项目主要依靠AI通用知识，对模型的创新创意能力要求高，对计算资源要求很高；

    一次性交付的项目，对模型的能力要求高，对数据是否充分要求高。渐进迭代交付的项目，对模型的初始能力要求稍低，对初始数据是否充分要求稍低。但需要一段忍耐时间，需要形成“数据飞轮”，迭代训练模型。

    准确度要求高的项目，对模型训练要求高，对数据的数量和质量要求高。准确度要求低的项目，对模型训练要求低，对数据的数量和质量要求相对低。

    能力强大的模型，对硬件算力要求高，客户的投资高，客户群数量少。能力弱的模型，对硬件算力要求低，客户投资少，客户群数量多。

    AI项目立项规划最重要的工作就是：调整项目在两个坐标系的位置，解决冲突，使项目处于舒适状态。这中间包括：准确地评估选择大模型、调整用户的期望值、调整大模型在项目中的地位和作用、用大模型带小模型、数据飞轮的设计、备选其他AI算法填补大模型短板等等。。。。。这些工作对项目后续落地成功尤为关键。切不可头脑发热，盲目蛮干。

    当然，要做好这些规划工作，AI项目的领导者一定要有非常广泛的技术视野，丰富的AI实践经验。

    （上篇完）

下篇预告：

模型的评估与选择

技术解决方案

产品的运行与迭代