模型训练

基于AnythingLLM搭建本地知识库

2025 年 3 月 24 日

无需编码经验，快速搭建个人知识问答Agent。核心内容： 1. 从0到1搭建本地知识问答Agent的步骤 2. AnythingLLM的下载、安装和基础配置 3. 构建个人知识库和开启对话的其他扩展功能

书接上文，我们完成了deepseek模型的本地化部署，并通过pageAssist插件构建了我们第一个本地化聊天Agent。今天我们则通过anythingLLM 工具，从0到1搭建专属知识问答Agent。本文搭建过程无需任何编码经验

下载与安装

访问anythingLLM官网，点击“Download for Desktop”按钮，并根据要安装的电脑的操作系统选择对应版本的anything LLM安装包下载

下载完成后，根据安装导引进行anythingLLM的安装

基础配置及使用

https://docs.anythingllm.com/configuration

工作区基础配置

第一次打开AnythingLLM可以通过新建工作区来建立自己专属的工作区，创建完成后，可以点击工作区名称右侧的“齿轮”按钮进入工作区设置页面，在“聊天设置”选项卡汇总进行模型基础信息设置

本次我们设置基座模型为Qwq-32B的本地版本，所以工作区LLM提供者选择Ollama,模型选择已经下载好的Qwq-32B(Ollama 安装及下载本地模型可以参考 )，如果使用其他公用模型可以工作区LLM提供者安装及下载本地模型可以参考 )，如果使用其他公用模型可以工作区LLM提供者选择相应的模型信息，并配置相应AK/SK信息，AnythingLLM中基本涵盖了目前流行的模型信息。

构建个人知识库

通过工作区名称右侧的“上传”按钮拉起知识库上传面板

anythingLLM支持文档上传和通过连接获取一些渠道的数据（目前支持github,gitlab,youtube以及网页爬取），点击上传并选择相应文件后，等待上传完成后，点击发布到工作区后，在点击“Save and Embed” 即可对上传文件进行向量化处理，等待embed完成后，工作区就可以使用相应知识库来帮助问答。