为什么现象级的AI应用还没有出现？

在 AI 浪潮席卷全球的情况下，现象级的 AI 应用似乎还没有出现，AI 是否是一个命题大家也各有说辞。AI 的热度一天天退却，甚至归于平淡，现象级的应用还没出现，我觉得有3个重要的原因。

• 第一，很多公司对模型和行业中的了解都不够，很大一部分公司都没有预测大模型之后更新会拥有什么能力，大多数公司在做的产品，即便做出来了，之后也都被大模型更新的能力所取代，人家 API 一开放，可能比你花了半年时间研发出来的能力还好，成本也更加便宜。

  
  

• 第二，很多公司都是围绕尖端模型这种目前来说的最强的能力进行加工，而忽略了成本问题，如果成为一个百万级、亿级产品的时候，很多公司根本承担不了昂贵的模型运行成本（目前来说）。

  
  

• 第三，在你所做的行业内要有足够深的 know-how，要在特定的细分邻域深耕，对所在的行业足够了解，在这个行业内具备引领能力，你才能构建足够的壁垒。

01 不要解决即将消失的问题

LLMs 正在经历历史上最快的技术发展之一。两年前，ChatGPT 无法处理图像、处理复杂数学或生成复杂的代码 —— 这些任务对于今天的LLMs来说很容易。两年后，情况也将大不相同。

如果你在应用层构建，很容易花时间在错误的问题上 —— 那些将在下一个 GPT 版本发布时消失的问题。不要花任何时间在将会消失的问题上。听起来很简单，但这样做很难，因为它感觉不对。 

预测未来是你的工作的一部分。要知道哪些问题会持续存在，你需要预测 GPT-X-plus-one 将能够做什么，这感觉就像是在盯着水晶球看。一旦你有了你的预测，你必须围绕它们来制定你的产品路线图和策略。

例如，Granola 的第一个版本不支持超过30分钟的会议。当时最好的模型，OpenAI 的 DaVinci，只有一个4000个token的上下文窗口，这限制了会议可以持续的时间。

通常情况下，延长这个时间框架将是 Granola 最优先考虑的事情。大家怎么能期望人们使用一个只适用于短会议的记事本呢？但 Granola 有自己的判断，他们假设，LLMs  将会变得更好，它们会更智能、更快、更便宜，并且有更长的上下文窗口。Granola 决定不花时间解决上下文窗口限制问题。相反，他们花时间提高笔记质量。

有一段时间，Granola 不得不积极忽略抱怨时长限制的用户。但他们的假设是正确的，几个月后，上下文窗口变得足够大，可以处理更长的会议。任何在这方面的工作都将是浪费的。与此同时，Granola 对笔记质量所做的工作是用户说他们喜欢 Granola 的主要原因之一。

02 边际成本才是我们的机会

从历史上看，软件的一个决定性特征是支持额外用户的边际成本接近零。如果你有一个适用于10,000名用户的产品，支持100万用户的成本并不会高太多。

这在 AI 领域并不成立（至少目前来说）。每个额外用户的边际成本保持不变，而且尖端AI模型的运行成本非常昂贵。例如，将半小时会议的音频发送到 OpenAI 的旗舰 GPT4o 音频模型大约需要4美元。想象一下，这个成本在成千上万的用户中，每天的规模。你的初创公司可以注册的用户数量也有限制。即使你拥有世界上所有的钱，OpenAI 和 Anthropic 也没有足够的计算能力来支持数百万用户的尖端模型。

第一次，为一小部分用户提供比数百万用户更好的产品体验成为可能。但这不是一个障碍 —— 这是初创公司的一个巨大机遇。拥有数百万用户的大公司根本无法与你竞争，因为世界上没有足够的计算能力来提供大规模的尖端体验。

作为一个初创公司，你可以为每个用户提供法拉利级别的产品体验。使用最昂贵、最尖端的模型。不要担心优化成本。如果额外的五个API调用（对你的LLM提供商的服务器请求）可以改善产品体验，那就去做吧。它可能在每个用户的基础上很昂贵，但你可能一开始没有很多用户。记住，最好的情况下，像谷歌这样的公司只能为他们的用户提供本田级别的产品体验。

你可能会想知道，当用户涌向你的法拉利产品体验时会发生什么。你最终会不会和今天的大科技公司一样，无法为你的用户提供优质、尖端的服务？

幸运的是，即使你的用户基础呈指数级增长，AI 推理的成本也在呈指数级下降。今天的尖端模型将在一两年后变得负担得起。今天的法拉利是明天的本田。在你有能力的情况下，赶快做一个法拉利产品。

唯一的答案是变得垂直，非常垂直。选择一个非常具体的用例并变得非常出色。初创公司的基本原则，构建人们想要的东西，在 AI 中保持一致，但标准更高。

但是，为特定用例提供卓越的体验往往与 AI 无关，这也是一些投资人说 AI 甚至不是一个命题的原因之一。有时候在解决某些问题上，加上 AI 能力，不但效果一般，成本却贵了不少，所以很多投资人对 AI 一点都不 care。

还是举 Granola 这个例子，Granola 花费无尽的时间在笔记质量上，但他们同样花费时间在像无缝会议通知和出色的回声消除（这样无论你是否使用耳机都能工作）这样的功能上。围绕 AI 的“包装”往往是愉悦体验和令人失望的实际使用之间的差异。

变得垂直，也使得改进产品的 AI 部分更容易。当 AI 正确回应时，它是神奇的。但当它出错时，它以一种可能让人感到奇怪和不安的方式出错。它变得明显，你不是在和人类交谈，而是在和一个算法交谈。陷入诡异谷的产品体验可能会让用户永远远离你的产品。当你对你的行业有足够深的 know-how，你会更容易识别最常见的 AI 失败案例，并做减法。

Last but not least

在生成式 AI 领域工作，就像是在跑步机上跑步，而传统技术开发则更像是在平地上走路。这种快节奏影响着我们处理技术问题的方式，也影响着我们实现规模化的速度。尽管这种快速变化要求我们调整策略，但打造优质产品的核心原则始终不变。关键是要创造出人们真正需要的产品，没有捷径可走。我们必须始终专注于细节。

最终，最关键的问题其实非常简单：这个产品用起来感觉如何？