在人工智能的浩瀚星空中，检索增强生成（RAG）系统正以其独特的魅力，成为连接语言模型与外部知识的桥梁。它不仅能让 AI 拥有更广阔的知识储备，还能有效减少“幻觉”，提升回答的准确性和可靠性。然而，构建一个高效的 RAG 系统并非易事，每一个环节都如同解谜游戏中的关键线索，环环相扣，缺一不可。
DeepSeek R1，作为一款拥有 6710 亿参数的混合专家模型（MoE），凭借其强大的推理能力，在数学解题和代码生成等领域大放异彩。然而，当它被应用于 RAG 系统时，却暴露出一个令人意外的短板——不擅长 Embedding。这不禁让人产生疑问：为何这位“推理大师”在 RAG 的检索环节却表现平平？这背后又隐藏着怎样的技术逻辑？
检索“短板”：DeepSeek R1 的 Embedding 困境
要理解 DeepSeek R1 的 Embedding 困境，我们需要从它的“基因”说起。DeepSeek R1 的训练目标主要集中在逻辑推理和文本生成，它被设计成一个善于思考和表达的“大脑”，而非一个精于记忆和检索的“图书馆”。这种训练目标的差异，导致 DeepSeek R1 在语义空间的精准映射方面存在先天不足。
正如一位资深 AI 工程师所言：“不同的模型有着不同的天赋，让擅长推理的模型去做 Embedding，就像让一位短跑运动员去跑马拉松，并非不能完成，但绝非最佳选择。”
那么，DeepSeek R1 的 Embedding 究竟差在哪里呢？数据是最好的“照妖镜”。在 RAG 这项核心任务之外，我们考察 DeepSeek R1 在其他 Embedding 相关任务中的表现，可以更全面地了解它的能力边界。
还记得几个月前，我在研究文本分类任务时，偶然发现了一个有趣的现象：DeepSeek R1 在这个任务上的表现，竟然不如一些专门的 Embedding 模型。当时我感到非常困惑，因为 DeepSeek R1 在我心目中一直是一位“全能选手”，拥有着强大的推理能力和广泛的知识储备。我甚至开始怀疑，是不是我的测试方法出了问题？
经过一番深入挖掘，我发现这并非个例，而是一种普遍存在的现象。在文本分类任务中，DeepSeek R1 的平均 F1-score 为 88.3%，而专门的 Embedding 模型 text-embedding-3-large 则高达 92.7%。在情感分析和主题分类等子任务中，DeepSeek R1 的表现也均落后于 Qwen2 等模型。这些数据都来自于权威的 MTEB（Massive Text Embedding Benchmark）排行榜[1]，该排行榜是评估文本 Embedding 模型综合性能的重要参考。
为了更清晰地展示 DeepSeek R1 在不同任务上的表现，我们可以参考 MTEB 排行榜上的数据，并进行简单的对比：
更令人惊讶的是，当处理低资源语言时，DeepSeek R1 的 Embedding 能力更是捉襟见肘。在斯瓦希里语新闻分类任务中，DeepSeek R1 的 F1-score 仅为 62.1%，远低于 multilingual-MiniLM 的 75.3%。这意味着，DeepSeek R1 在理解和处理不同语言的细微差别方面存在明显的短板。
这些数据都指向一个结论：DeepSeek R1 并非全能选手，它在 Embedding 方面存在着无法忽视的局限性。 也许，我们对这位“推理大师”的期望过高了。
Embedding “选秀”：RAG 检索器的挑选标准
既然 DeepSeek R1 不擅长 Embedding，那么在构建 RAG 系统时，我们应该如何挑选合适的检索器呢？这就好比参加一场“Embedding 选秀”，我们需要明确评判标准，才能选出最适合 RAG 系统的“最佳检索器”。
RAG 检索的核心需求是什么？是关键词匹配吗？当然不是。RAG 检索的本质在于对用户 Query 语义的精准理解和相关文档的深度挖掘。它需要检索器能够像一位经验丰富的图书管理员，不仅知道书名和作者，还能理解书中的内容和主题，从而为用户找到真正有价值的信息。
那么，如何评估一个 Embedding 模型是否具备这种能力呢？MTEB（Massive Text Embedding Benchmark）排行榜无疑是一个重要的参考指标。MTEB 作为一个权威的文本 Embedding 模型评估基准，通过 58 个数据集覆盖 8 大类任务，为我们提供了一个多维度的量化标准。
为了更好地理解 MTEB 的评估体系，我们可以用一个 Mermaid 图来展示其核心任务类别：
MTEB 采用分层次评测框架，其核心任务类别包括：语义相似度、分类任务、聚类分析和检索任务。
MTEB 真的完美无缺吗？当然不是。MTEB 的一个主要局限在于，它无法完全代表真实世界的 RAG 应用场景。 例如，MTEB 缺乏对长文本处理能力的评估，而这对于处理法律、金融等领域的长篇文档至关重要。此外，MTEB 的数据集也可能存在领域偏差，无法全面评估模型在各个领域的适应性。正如 这篇关于 MTEB 局限性的讨论[2] 中提到的，MTEB 的评估结果可能与实际应用效果存在一定的偏差。
我们该如何应对 MTEB 的这些局限性呢？一种方法是结合实际应用场景，构建更具针对性的评估指标。 例如，在金融风控场景中，我们可以关注模型对财报术语的召回率；在医疗领域，我们可以关注模型对医学文献的理解能力。
尽管存在一些局限性，MTEB 仍然是我们在“Embedding 选秀”中不可或缺的“风向标”。通过 MTEB 排行榜[3]，我们可以了解不同 Embedding 模型在语义相似度、文本分类、聚类分析等任务上的表现，从而为 RAG 检索器的选择提供重要依据。
在 MTEB 排行榜上，Qwen2 系列模型凭借其卓越的性能，赢得了广泛的关注。Qwen2-72B 在多语言检索任务中表现出色，其在 XTREME 基准测试中的 MRR@10 达到了 0.84。此外，Qwen2 在长文档处理方面也展现出强大的实力，其在 RULER 长文本评估中的评分高达 93.1，超越了 GPT-4。
当然，数据只是参考，实际应用才是检验真理的唯一标准。为了更直观地了解不同 Embedding 模型在 RAG 系统中的效果，我们需要进行“实战演练”，通过实际 RAG 系统应用案例，对比不同 Embedding 模型在真实场景下的检索效果。
“扬长避短”：DeepSeek R1 的 RAG 正确打开方式
既然 DeepSeek R1 在 Embedding 方面存在短板，那么它在 RAG 系统中是否就一无是处了呢？当然不是。正如一位资深的 AI 架构师所说：“没有‘万金油’的模型，只有放对位置的‘螺丝钉’。”
DeepSeek R1 最大的优势在于其强大的推理和生成能力。它擅长从多个检索结果中提取关键信息，进行逻辑推理和知识整合，最终生成高质量、逻辑严密的回答。换句话说，DeepSeek R1 是一位优秀的“总结者”和“思考者”，而非一位高效的“检索者”。
因此，在 RAG 系统中，我们应该将 DeepSeek R1 放在最适合它的位置——生成环节。让它充分发挥其 Chain-of-Thought 特性，像一位经验丰富的专家一样，对检索结果进行深入分析，并给出有价值的建议。
结语：RAG 系统，没有“万金油”，只有“最佳拍档”
构建一个高效、可靠的 RAG 系统，就像组建一支优秀的团队，需要深入理解每个成员的特点，并进行合理分工和优化，才能实现最佳效果。DeepSeek R1 是一位优秀的“思考者”，Qwen2 是一位高效的“检索者”，只有将它们完美结合，才能构建出真正强大的 RAG 系统。
RAG 技术的未来发展趋势又将如何演变？是端到端训练，还是知识图谱融合？或许，未来的 RAG 系统将更加智能化、个性化，能够根据用户的需求动态调整检索和生成策略。但无论技术如何发展，对每个模型的特点进行深入理解，并进行合理分工和优化，永远是构建高效 RAG 系统的关键。
在 SkyPilot Blog 上，Kaiyuan Eric Chen 也分享了使用 DeepSeek R1 构建 RAG 系统的经验[4]，并总结了在实践中的一些注意事项。他们的研究也印证了本文的观点：DeepSeek R1 擅长生成，但不擅长 Embedding，在 RAG 系统中应该扬长避短，与其他模型配合使用。
面对 RAG 这项复杂的系统工程，我们既要仰望星空，也要脚踏实地。 既要关注前沿技术的突破，也要重视实际应用中的细节。只有这样，才能真正打造出能够解决实际问题的 RAG 系统，让 AI 更好地服务于人类社会。
拓展阅读：RAG 系统的优化技巧
除了选择合适的 Embedding 模型和生成模型外，还有许多其他的技巧可以用来优化 RAG 系统的性能，例如：
动态分块优化： 根据不同的任务类型，选择合适的分块大小，可以提高检索效率和准确性。 混合检索架构： 结合稀疏检索和稠密检索的优点，可以提升长尾查询的表现。 硬件加速： 使用 GPU 或其他专用硬件加速 Embedding 计算和模型推理，可以降低响应延迟。
RAG 技术的未来充满着无限可能，让我们拭目以待！
