TLDR
OpenAI 正在秘密开发一个名为“草莓”的 AI 项目，旨在显著增强 AI 模型的推理能力，使其能够自主进行深度研究，这标志着 AI 领域的一次革命性突破，也是 OpenAI 迈向超级智能五步计划中的关键一步。
OpenAI 的雄心：打造具备高级推理能力的 AI 模型
在 AI 领域，微软支持的初创公司 OpenAI 一直致力于打造具备高级推理能力的 AI 模型，并为此展开激烈竞争。近期，据路透社报道，ChatGPT 的制造商 OpenAI 正在秘密开发一种名为“草莓”（Strawberry）的全新人工智能模型方法，旨在使 AI 模型能够自主进行互联网研究。
“草莓”项目：一个神秘的突破
Strawberry 项目之前被称为 Q*，路透社去年曾报道，Q* 在公司内部已被视为一项突破。然而，Strawberry 的工作原理即使在 OpenAI 内部也是一个严格保守的秘密。
根据路透社看到的一份 OpenAI 内部文件，“草莓”项目旨在使用 Strawberry 模型，使 AI 不仅能够生成查询的答案，还能提前进行足够的规划，以自主和可靠的方式浏览互联网，执行 OpenAI 所谓的“深度研究”。
推理能力：AI 发展的关键
这一目标的实现，意味着 AI 模型将具备迄今为止一直无法做到的事情：自主进行深度研究。OpenAI 希望这项创新能够显著提高其 AI 模型的推理能力。
为什么推理能力如此重要？因为推理是 AI 实现人类或超人类水平智能的关键。虽然大型语言模型已经可以比人类更快地总结密集的文本和撰写优美的散文，但这项技术往往在解决对人类来说似乎直观的常识性问题上存在不足，例如识别逻辑谬误和玩井字棋。当模型遇到这类问题时，它往往会“幻觉”出虚假信息。
路透社采访的 AI 研究人员普遍认为，在 AI 的背景下，推理涉及形成一个模型，使 AI 能够提前计划，反映物理世界的运作方式，并可靠地解决具有挑战性的多步骤问题。提高 AI 模型的推理能力被视为开启模型能力的关键，这些能力包括从进行重大科学发现到规划和构建新的软件应用程序。
OpenAI 首席执行官 Sam Altman 今年早些时候表示，在 AI 领域，“最重要的进展领域将围绕推理能力”。
“草莓”项目的挑战和目标
Strawberry 是 OpenAI 计划克服 AI 推理能力挑战的关键组成部分。路透社看到的文件描述了 Strawberry 的目标，但没有描述如何实现。近几个月来，该公司私下向开发者和其他外部人士暗示，它即将发布具有更先进推理能力的技术。
Strawberry 包括一种对 OpenAI 生成式 AI 模型进行“后训练”的专门方法，或者在基础模型已经经过大量通用数据“训练”后，对其进行调整以特定方式提高其性能。开发模型的后训练阶段涉及“微调”等方法，这是当今几乎所有语言模型都使用的一种方法，它有多种形式，例如让人类根据模型的响应提供反馈，并向其提供好答案和坏答案的例子。
“草莓”项目与 STaR 的相似之处
据一位知情人士透露，Strawberry 与斯坦福大学 2022 年开发的一种名为“自学推理器”或“STaR”的方法有相似之处。斯坦福大学教授 Noah Goodman 告诉路透社，STaR 使 AI 模型能够通过迭代创建自己的训练数据，将自身“引导”到更高的智能水平，理论上可以用来让语言模型超越人类水平的智能。
“草莓”项目的未来展望
该文件称，OpenAI 为 Strawberry 设定的目标之一是执行长期任务 (LHT)，指的是需要模型提前计划并在较长时间内执行一系列动作的复杂任务。为此，根据 OpenAI 的内部文件，OpenAI 正在创建一个所谓的“深度研究”数据集，并在其上训练和评估模型。路透社无法确定该数据集中包含哪些内容，也无法确定较长时间意味着多长时间。
据该文件和一位消息人士透露，OpenAI 特别希望其模型利用这些能力，在“CUA”（即计算机使用代理）的帮助下，通过自主浏览网页进行研究，该代理可以根据其发现采取行动。OpenAI 还计划测试其在完成软件和机器学习工程师工作方面的能力。
OpenAI 迈向超级智能的五步计划
OpenAI 为追踪其大型语言模型在迈向通用人工智能 (AGI) 方面的进展创建了一个内部量表。AGI 指的是拥有人类水平智能的 AI，OpenAI 将其定义为“在大多数具有经济价值的任务中超越人类的高度自治系统”。
OpenAI 的五步计划如下：
1. Level 1：聊天机器人： 拥有自然对话语言能力的 AI，例如 ChatGPT。
2. Level 2：推理者： 具备人类水平问题解决能力的 AI，能够在广泛的主题领域解决问题。
3. Level 3：代理： 能够独立或根据人类指令采取行动的 AI 系统。
4. Level 4：创新者： 能够辅助发明新想法并为人类知识做出贡献的 AI。
5. Level 5：组织： 能够独立完成整个组织工作的 AI。
OpenAI 声称其正接近 Level 2，并认为“草莓”项目是实现这一目标的关键。OpenAI CTO Mira Murati 曾表示，OpenAI 实验室中的模型并不比公众已经拥有的模型好多少，而 CEO Sam Altman 则表示，该公司最近“推开了无知的面纱”，这意味着这些模型的智能程度显著提高。
“草莓”项目的影响和意义
如果 OpenAI 的“草莓”项目取得成功，将会对 AI 领域产生深远的影响。
首先，它将极大地提升 AI 的自主学习能力，使 AI 不再依赖于人工标注的数据，而是能够像人类一样自主地探索和学习新知识。
其次，它将拓展 AI 的应用范围，使 AI 能够胜任更加复杂的任务，例如进行科学研究、开发新的软件应用程序等。
最后，它将加速 AI 的发展进程，使我们离实现通用人工智能的目标更近一步。
相关链接
• OpenAI 五步计划：OpenAI outlines plan for AGI — 5 steps to reach superintelligence - https://www.tomsguide.com/ai/chatgpt/openai-has-5-steps-to-agi-and-were-only-a-third-of-the-way-there
• OpenAI 衡量 AI 系统能力的标准：Here’s how OpenAI will determine how powerful its AI systems are - https://www.theverge.com/2024/7/11/24196746/heres-how-openai-will-determine-how-powerful-its-ai-systems-are
