本文更多的是考虑 0基础的同学,都是手把手搭建,一张张截图,争取每个选项都能解释的非常清楚,好了不再废话了,我们开始吧。
一、前言
1.1 Dify 介绍
Dify是⼀款开源的⼤语⾔模型(LLM) 应⽤开发平台,它融合了后端即服务 Backend as Service 和 LLMOps 的理念,使开发者可以快速搭建⽣产级的⽣成式 AI 应⽤;即使是⾮技术⼈员,也能参与到 AI 应⽤的定义和数据运营过程中来。
1.2 Dify 能做什么
Dify 内置了构建 LLM 应⽤所需的关键技术栈,包括对数百个模型的⽀持、直观的 Prompt 编排界⾯、⾼质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排,并同时提供了⼀套易⽤的界⾯和 API,这为开发者节省了许多重复造轮⼦的时间,使其可以专注在创新和业务需 求上。
我们可以把 LangChain 这类的开发库想象为有着锤⼦、钉⼦的⼯具箱。与之相⽐, Dify 提供了更接近业务需求的全套⽅案,Dify 好⽐是⼀套脚⼿架,并且经过了精良的⼯程设计和软件测试。
将 LLM 集成⾄已有业务:通过引⼊ LLM 增强现有应⽤的能⼒,接⼊ Dify 的 RESTful API 从⽽实现 Prompt 与业务代码的解耦,在 Dify 的管理界⾯可实现跟踪数据、成本和⽤量并持续改进应⽤效果_ 作为企业级 LLM 基础设施:⼀些银⾏和⼤型互联⽹公司正在将 Dify 部署为企业内的 LLM ⽹关,加速 Gen AI 技术在企业内的推⼴,并实现中⼼化的监管 探索 LLM 的能⼒边界:通过 Dify 也可以轻松的实践 Prompt ⼯程、RAG、 AI Agent,工作流
1.3 使用Dify和不使用Dify的开发差别
二、Dify 私有化 Docker 部署
2.1 克隆代码
$ git clone https://github.com/langgenius/dify
Cloning into 'dify'...
remote: Enumerating objects: 162378, done.
remote: Counting objects: 100% (704/704), done.
remote: Compressing objects: 100% (366/366), done.
remote: Total 162378 (delta 528), reused 342 (delta 338), pack-reused 161674 (from 2)
Receiving objects: 100% (162378/162378), 92.82 MiB | 16.53 MiB/s, done.
Resolving deltas: 100% (117328/117328), done.
2.2 配置文件设置
$ cd dify/docker
$ cp .env.example .env
$ ll | grep .env
-rw-r--r-- 1 root root 36530 May 16 04:42 .env
-rw-r--r-- 1 root root 36530 May 16 04:41 .env.example
-rw-r--r-- 1 root root 4816 May 16 04:41 middleware.env.example
2.3 启动 Dify
$ docker-compose up -d
2.4 访问 Dify
http://127.0.0.1:8890/apps 直接访问即可。
三、Dify 搭建 聊天机器人
3.1 Dify 接入 Ollama
执行第一步,选择设置:
执行第二步,选择模型供应商:
执行第三步,从下面的模型供应商中选择 Ollama,点击安装即可。
执行第四步,添加模型,选择如下模型:
验证,最后成功的效果如下:
3.2 Dify 搭建 聊天机器人
第一步:首先选择【工作室】,其次选择 【创建空白应用】
第二步:选择【聊天助手】,输入自己的应用名称,最后点击创建即可。
第三步:调整模型参数
这里的【温度系数】等都是什么参数,上文我们已经简单讲解过了,可以参照下。
第四步:可以开始聊天了。
第五步:直接发布聊天机器人
