大语言模型

使用 Docker 部署14.7k stars 的各大 AI 模型 key 分发及接口管理系统

2024 年 6 月 29 日

对于对 AI 感兴趣的小伙伴们来说，一定听说过大名鼎鼎的 One API 项目，它在 Github 上拥有 14.7k 的 stars 和 3.4k 的 forks，项目简介如下：

OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.

划重点！！！

⭐️⭐️⭐️ OpenAI 接口管理 & 分发系统
⭐️⭐️⭐️可用于二次分发管理 key

⭐️⭐️⭐️支持的 AI 大模型有二十多种，挑几个大家熟知的列列：

OpenAI ChatGPT 系列模型（支持 Azure OpenAI API）
Anthropic Claude 系列模型 (支持 AWS Claude)
Google PaLM2/Gemini 系列模型
Mistral 系列模型
百度文心一言系列模型
阿里通义千问系列模型
Moonshot AI
Ollama
Coze

还有其他一大波模型也正在支持的路上，感兴趣的小伙伴可以访问 One API 的项目地址自行查看哦?

github 地址：https://github.com/songquanpeng/one-api

使用 Docker 部署

实际上项目作者提供了 6 种部署方式，外加部署之后如何配合第三方服务使用 One API。分别是：

6 种部署方式

Docker 部署（ 本次使用 Docker 部署 ）
Docker Compose 部署
手动部署
多机部署
宝塔部署教程
部署到第三方平台

部署第三方服务配合 One API 使用

ChatGPT Next Web
ChatGPT Web
QChatGPT - QQ 机器人

部署

在基于 Docker 进行部署时，可以根据自己规划的并发量来选择使用 SQLite 还是 MySQL，如果并发量比较大，务必设置 SQL_DSN。

docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api
# 或者
docker run --name one-api -d --restart always -p 3000:3000 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

在部署好之后，我们就可以通过访问服务器 IP:3000 的方式来访问项目了。