为小智接入本地知识库使用的是dify平台,下面介绍一下具体的方法:
1. 说明
使用的Dify版本:1.1.3
Dify部署方法请参见往期文章:
给小智AI聊天机器人接入Dify平台,数百种大模型轻松对接(附:教程)
2. 设置模型本文使用的是通义千问的模型供应商
申请地址(阿里云百炼):
https://bailian.console.aliyun.com/#/home
会话模型:DeepSeek-V3
文本嵌入模型:text-embedding-v3
召回模型:gte-rerank

3. 创建知识库
首先需要创建知识库,将自有的文本或pdf等知识库文档导入知识库。
3.1. 准备知识库文档我准备的是如下内容的txt文档

3.2. 选择数据源
导入上面准备的“公司规定.txt”文档

3.3. 文本分段与清洗
分段方式采用“父子分段”,索引方式选用“高质量”,文本向量化模型选用“text-embedding-v3”,Rerank模型选用“gte-rerank”。

3.4. 处理并完成
会自动调用上面选的“text-embedding-v3”模型将文本向量化,到此知识库创建完毕。

4. 创建Dify应用4.1. 创建Chatflow应用在Dify中,Chatflow应用是基于工作流编排,适用于定义复杂流程的多轮对话场景,具有记忆功能,适用于我们的场景。

4.2. 创建知识检索节点
在“开始节点”后面新增“知识检索”的节点,知识库选择上面创建的“公司规定”知识库

4.3. 创建LLM节点在“知识检索”后面新增“LLM”的节点,模型选择“DeepSeek-V3”,上下文设置为“知识检索”节点的输出结果,设置SYSTEM提示词,并开启记忆功能
4.4. 创建直接回复节点在“LLM”后面新增“直接回复”的节点,输入“/”指令,选择LLM输出的text

4.5. 发布应用
创建完成之后在“工作室”就多出了一个如下的应用

5. 预览应用5.1. 提问知识库中的内容可以看到它会严格按照知识库进行回答

5.2. 提问知识库中没有的内容它会提示无法回答

6. 给小智接入Dify请参见之前的文章:
给小智AI聊天机器人接入Dify平台,数百种大模型轻松对接(附:教程)
7. 本地知识库的优势1)信息准确性:减少"幻觉",提供可验证的信息2)知识更新:无需重新训练模型即可更新知识库3)透明度和可追溯性:可以追溯到信息来源4)专业领域适应性:可以针对特定行业或领域定制知识库
8. 基于知识库的小智应用展望1)个人助理2)医院导诊机器人3)企业客服:如保险业务的客服,解答保险政策4)政府和公共服务:市民可以咨询政府政策、程序和服务5)智能辅导系统:提供基于教材和课程资料的个性化学习支持6)......
立即咨询 JOTO
JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询