这是知识图谱公司Ontotext在2023年的知识图谱论坛上由解决方案架构师克拉西米拉·波赞诺娃（Krasimira Bozhanova）所呈现的内容的简化和更新版本。
摘要
Ontotext利用知识图项目（OTKG）提升内容发现和营销知识共享，整合大型语言模型（LLMs）以改善洞察和用户互动。
- OTKG将Ontotext的营销内容与工作流管理相结合，促进简易信息检索和以知识驱动的洞察。
- 该项目在不同层面集成了人工智能，提升内容的可发现性，实现定制导航和推荐，同时为洞察提供自然语言界面。
- ChatGPT被整合用于提供自然语言查询，利用Retrieval Augmented Generation模式提升用户互动体验和动态内容更新。
- 将LLMs与知识图相结合解决了内容限制和解释性不足等挑战。
- 该项目展示了LLMs和知识图如何协同作用，带来卓越的内容发现、理解和洞察。
https://medium.com/@ontotext/ontotext-marketing-gets-a-boost-from-knowledge-graph-powered-llms-e0d3906ce99d
正文
由于我们营销团队的目标是简化网站上的内容发现，我们发起了Ontotext知识图谱（OTKG）项目。多年来，我们在帮助组织从其内容中获得最大效益方面的经验告诉我们，仅仅拥有一个基本的搜索界面是远远不够的。
从一开始，我们就意识到了我们新兴项目的潜力。我们设想利用我们的产品的力量，提升整个内容发布流程，从而促进深入的知识发现。最终，这导致该项目转变成形成一个广泛的知识图谱，其中包含我们生成的所有营销知识，从而最终使整个组织受益。
什么是OTKG?OTKG模型将Ontotext的信息与组织内不同团队所产生的内容相结合。我们从我们的营销内容开始，并迅速扩展到还整合了一套用于数据和内容管理的工作流程。我们的目标是生成一个知识空间，使信息易于查找、复用，并为知识驱动的洞察力提供支持。
该项目涉及不同部门，并通过将其与我们营销团队的专业知识相结合，利用了我们的产品和能力。同时，它还使我们能够立即将我们产品的新功能应用到现实用例中。这样做，我们成为了早期采用者，可以从内部用户那里获得即时反馈，并用于进一步改进我们的产品。在跨职能团队中工作还使我们能够进行短期的价值驱动迭代循环。它使我们能够快速原型设计和评估创新思路的潜力，并专注于为用户带来最大影响的功能。
从知识图谱构建到价值为了增强有关Ontotext的信息的可发现性，我们的目标是解锁嵌入在我们内容中的价值，并使其轻松可访问。
我们在这类项目中的标准方法是首先定义能帮助我们理解需要在我们的图中建模的内容的能力问题。然后，我们构建一个知识图谱，其中包括自定义本体（在我们的案例中是schema.org的扩展）和自定义分类法。我们使用GraphDB将此存储起来，通过利用用于知识图谱管理的标准工具。我们还使用Ontotext Refine将结构化和半结构化内容转换为RDF。
然后，通过Ontotext Metadata Studio（OMDS），我们使用基于我们的营销词汇的文本分析进行语义内容增强。这使我们能够根据精细化模型和感兴趣的实体对我们的内容进行分类。通过metaphacts的知识图谱平台metaphactory的灵活语义分面搜索，我们公开这些分类内容。
这些步骤有助于与大型语言模型（LLMs）集成，并提供最先进的知识发现和探索。
为了使其尽可能有价值，该系统需要与最新内容配合工作，因此我们建立了工作流程，以使数据与我们网站上发布的内容保持同步。
此外，我们的目标是以一种易于适应其他可能需要相同内容管理好处的组织的方式构建此系统。
现在让我们来看看我们是如何将知识图谱与大语言模型在这些层面上进行整合的。
在知识图谱的构建和语义增强过程中，我们的目标是提高我们内容的可发现性，无论是对搜索引擎还是对我们的平台。我们通过基于图形的实体链接，在内容发布过程中进行质量标记来实现这一目标。这样，我们可以在搜索引擎优化和语义驱动的内容发现方面获益。
为了高效地进行知识发现，我们必须高效地确定信息来源，并能够为用户提供定制导航和相关推荐，以建立他们的知识。
最后，当涉及到问答和见解时，我们的目标是以一种用户友好的方式提供一个自然语言界面来使用我们的知识图谱中的信息。知识图谱还为趋势分析和知识驱动的见解提供了基础。
幕后接口来看看这是如何运作的。OMDS显示了我们目前拥有的所有文件的集合，如博客文章、活动、新闻文章等。这是我们的市场团队在发布之前使用的，用来给新内容添加语义元数据的。
让我们打开一个关于在亚马逊网络服务市场上提供GraphDB的文档。在右侧，我们可以看到文档的文本，在左侧，可以看到由OMDS标注器自动发现的所有提及。
这是基于图谱的标记，因此提到的内容不仅仅是关键词。它们是我们建模的实体，图的连通性对于我们将内容与它们分类非常重要。我们还可以看到它们按相关性排序，毫不奇怪，亚马逊网络服务是最相关的概念，其次是GraphDB。
现在，假设营销团队的成员想更多地了解为什么文件被分类为这样。我们可以打开关于云提供商的注释，并且可以点击右上角的突出按钮，以查看文本中导致此分类的提示的可解释性。对于“亚马逊网络服务”，突出显示将向我们展示，它被分配的原因是文本中提到的“AWS”，并且因为我们的图中存在云提供商和AWS之间的关系。因此，这是我们RDF数据库中推理逻辑的直接应用，可以丰富这些提及。
终端用户界面让我们看看用户可以如何探索上述所有内容。
根据上面的屏幕截图，可以看到我们的内容位于中心位置，左侧有各种过滤器。我们有基于元数据的标准过滤器，如文档类型、发布日期或作者。但我们还有基于自定义词汇和OMDS分类的各种附加语义过滤器。展开这些过滤器，我们将看到每个自定义词汇的完整树形结构。所有这些都使我们能够更好地筛选、导航和找到我们可能感兴趣的内容。
例如，如果我们在“资源类型”中仅筛选博客文章，在“能力”中选择“系统操作”，在“主题”中选择“云提供商”，然后添加搜索词“云”，我们将在右侧看到相关匹配项。第一个结果是有关在云上使用GraphDB的博客文章，我们在OMDS界面中已经看到过，还有其他结果。
如果我们打开这篇文章，我们会看到我们已经通过OMDS分配的三个提及。我们还可以观察提及中的节点，并点击不同的主题，以阅读有关它们在知识图谱中的定义。我们还可以看到与我们感兴趣的提及最相关的知识图谱中其他概念的趋势和分析数据。
感谢这些提及，我们还可以提供有关内容的推荐。值得注意的是，这些都是基于图形的推荐，不仅依赖于内容的相似性。
分面搜索是查询内容的经典方法。现在让我们切换到更高级的方式——自然语言查询界面，可以与筛选器结合使用。
为了实现这一点，我们通过增强标准的检索增强生成模式，将ChatGPT与我们的知识图谱集成起来。正如我们在之前的博客文章中描述的，在探索实现图形RAG的各种方法时，我们可以使用GraphDB ChatGPT检索插件连接器，将我们的知识图谱轻松转换为嵌入，并确定我们需要提供给LLM以回答用户问题的信息。
上图显示了我们如何通过我们的产品实现聊天功能。
从左侧开始，用户选择他们的内容过滤器，并将他们的问题发送到系统。请求被GraphDB消费，GraphDB存储由OMDS产生的所有内容增强元数据。然后将用户的问题和过滤器发送到一个简单的聊天应用程序中。它从一个向量数据库（在本例中是Weaviate）检索与问题最相关的基础上下文。
通过连接器实现了向量数据库与GraphDB中的内容的同步，从而实现了动态同步。这意味着当新信息进入GraphDB时，它将自动更新到向量数据库中，因此可以立即使用新信息回答问题。将基础上下文与问题一起发送给LLM进行回答。在从LLM接收到响应后，我们使用语义元数据丰富它，并将响应与适当的跟进建议进行情境化处理后提供给用户。
提问样例让我们来看一个例子。我们可以按发布日期筛选内容并关注过去的三年。然后，我们可以提问一个问题，比如："在AWS上使用GraphDB的主要好处是什么？"聊天界面会返回一个答案，除了标准信息外，它还提供一些见解，比如简化采购。
值得注意的是，我们可以通过可靠的背景信息来限制LLM的幻觉。答案中的链接指向生成答案的来源，让用户可以追溯信息并进一步阅读，以获取更多细节（如果他们对此感兴趣）。
如果我们继续向下滚动，我们可以看到与回答相关的分类提及的树形结构。我们提供相关的后续阅读材料，帮助用户快速了解他们感兴趣的主题。通过结合所有这些技术，我们可以将用户的兴趣置于我们的知识图谱的背景中，展示与他们相关的信息。
大语言模型和知识图谱现在，让我们放大视野，看看我们的产品如何从人工智能的力量中受益，并且这种协同作用如何帮助我们实现目标。
对于质量标记，OMDS能够在我们所有的内容上进行知识图谱感知的文本分析。
对于知识发现，GraphDB ChatGPT检索插件连接器生成向量嵌入，并且使我们能够高效地识别信息来源。此外，GraphGB连接器与FTS和向量数据库的集成提供了基于图的推荐。
对于问答和洞察，我们使用LLM，图的连接性和推理帮助我们识别新的知识、趋势、共现、用户需求等等。
我们在这个项目中的经验再次表明，LLM和知识图谱在一个更好的整体中自然地融合在一起。
在OTKG中，我们应用了一系列技术，解决了在生产系统中使用LLMs所面临的主要挑战。
我们利用自己的结构化和非结构化信息来增强LLM以解决它们仅限于公共知识的问题。
我们为其提供可靠的基础环境以应对错误生成和不可信的问题。
我们显示生成答案的来源的内联链接，以解决缺乏可解释性和可追溯性的问题。
在实际系统中使用LLM可能并不像初看起来那么简单。然而，LLM和知识图谱结合在一起可以带来比它们各自的价值更多的价值。它们真正相辅相成，带来了令人兴奋的新的能力。最后，知识图谱和语义元数据的组合提升了LLM在内容发现、理解、问答和洞察方面的表现。
