背景
AI服务器在内网，除了预先安装的python及docker等基本软件包外，别的一概没有。从零基于Llama-Factory搭建大模型微调环境。
在VMWare上搭一个同样服务器版本（例如centos）的虚拟机，用于联网下载依赖包；后续再拷贝过去。
docker
在运维同事打好docker镜像后，开发编写docker-compose单独起一个docker环境。在这里建议是以自己的名字命名文件夹下起docker，这样的话，docker-compose挂载的volume就比较干净，直接在自己名字的目录下。
docker-compose如下：
文件夹结构如下，这是我自己名字下的包文件：
虚拟环境venv
进入docker，基于python3默认的venv模块，单独起一个python虚拟环境，隔离包的依赖。
如下：
python -m venv apienv
激活环境：
source ENV_DIR/bin/activate
pip包下载
在内网环境下，如果没有镜像库支持，是无法像平时一样一键pip intasll xxx安装。因此就要手动搞了。
有两种方案：
先 pip download再pip install --no-index直接 pip install xxx --target /path
当然包的下载是在venv虚拟环境下，隔离开别人的包依赖，防止覆盖或版本不对。
我个人用的命令如下：
# 指定源下载包
pip install pandas -i http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com
# 将本地目录打包，解决llamafactory-cli命令报错的问题
pip install -e . --no-build-isolation --no-index --find-links=./
# 指定源下载requirements依赖，并指定下载目录
pip download -r requirements.txt -d /home/sitepackage/ --index-url http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com
# 指定源下载 指定包 ，并制定下载目录
pip3 download -d /home/sitepackage/ gradio==4.21.0 -i http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com
# 离线安装 download 下载好的依赖包
pip install --no-index --find-links=/home/sitepackage/ -r requirements.txt
LLaMA-Factory报错
llamafactory-cli不存在
新版Llama-Factory改为了llamafactory-cli命令训练微调。但该命令默认是不存在的，需要在LlamaFactory源码的目录下运行 pip install -e .即可，官方文档已经写了需要事先运行该命令。但在离线环境下，就不能直接这么写，上述的命令列表已给出命令。不过当时还是出现了新的问题：
见issue。
是LlamaFactory自身的问题，重新拉去最新的代码即可。只要按照如上步骤，先download包，然后install，最后执行：
pip install -e . --no-build-isolation --no-index --find-links=/home/sitepackage/
即可生成llamafactory-cli命令。
docker共享内存不足
报错如下：
NCCL error in: ../torch/csrc/distributed/c10d/ProcessGroupNCCL.cpp:1970, unhandled system error (run with NCCL_DEBUG=INFO for details), NCCL version 2.20.5
System call (e.g. socket, malloc) or external library call failed or device error.
error:
while creating shared memory segment /dev/shm/nccl-jURtqQ (size 5767520)
docker默认的内存是 64MB，在执行llamafactory-cli train xxx时，如果当前机器是多卡，那么默认是分布式训练。docker共享内存不足，调大docker内存即可。在docker-compose文件中，增加配置：
shm_size: 16GB
当然也可以指定单卡训练，如果单卡的显存够的话，命令如下：CUDA_VISIBLE_DEVICES=0 llamafactory-cli train xxx
参考：https://github.com/NVIDIA/nccl/issues/342[1]https://www.jianshu.com/p/3ba9a016dc82[2]
transformers版本不对
报错如下：
ValueError: too many values to unpack (expected 2)
重新安装一下transformers，其指定版本为4.41.2。
总结
LlamaFactory新版更新后，还是比较方便，只是说llamafactory-cli命令的确是有点蒙，踩个坑就好了。
对于LlamaFactory微调来说，本身不难，毕竟都是配置；主要是在内网环境下的依赖包拉取安装是真麻烦，但其实也还好。走一遍的话，还是可以学到很多的。
