Llama Factory 实战，轻量级微调 LLM。

• 「资源有限、轻量、高效」的轻量化微调场景
• 「垂直领域」的模型定制场景

• 「交互类应用」的快速落地测试场景

  
  

git clone https://github.com/hiyouga/LLaMA-Factory.git

conda create -n llama_factory python=3.10conda activate llama_factorycd LLaMA-Factorypip install -r requirements.txt

llamafactory-cli train -h

modelscope download --model llama/Meta-Llama-3-8B-Instruct --local_dir ./dir

CUDA_VISIBLE_DEVICES=0 llamafactory-cli webchat --model_name_or_path llama/Meta-Llama-3-8B-Instruct --template llama3

• 数据准备，
• SFT指令微调；
• Merg模型合并。

{"prompt":"推荐Adventure, Animation, Children, Comedy, Fantasy类型的电影","response":"Toy Story (1995)"}

CUDA_VISIBLE_DEVICES=0 llamafactory-cli train --stage sft --do_train --model_name_or_path llama/Meta-Llama-3-8B-Instruct --dataset movies_sft --dataset_dir ./data --template llama3 --finetuning_type lora --output_dir llama/SFT-Meta-Llama-3-8B-Instruct --overwrite_cache --overwrite_output_dir --cutoff_len 1024 --preprocessing_num_workers 16 --per_device_train_batch_size 1 --per_device_eval_batch_size 1 --gradient_accumulation_steps 8 --lr_scheduler_type cosine --logging_steps 50 --warmup_steps 20 --save_steps 100 --eval_steps 100 --learning_rate 5e-5 --num_train_epochs 5.0 --max_samples 1000 --val_size 0.1 --plot_loss --fp16

CUDA_VISIBLE_DEVICES=0 llamafactory-cli webchat --model_name_or_path llama/Meta-Llama-3-8B-Instruct --finetuning_type lora --adapter_name_or_path llama/SFT-Meta-Llama-3-8B-Instruct --template llama3

import osimport argparseimport shutilimport torchfrom transformers import AutoModelForCausalLM, AutoTokenizerfrom peft import PeftModel
def parse_args():    parser = argparse.ArgumentParser("Merge LoRA adapter into base model")    parser.add_argument("--output_lora", required=True, help="LoRA adapter 目录")    parser.add_argument("--model_name", required=True, help="基座模型目录")    parser.add_argument("--out_dir", default=None, help="合并后模型输出目录")    parser.add_argument("--cpu", action="store_true", help="在 CPU 上合并")    return parser.parse_args()
def main():    args = parse_args()    lora_dir = os.path.abspath(args.output_lora)    base_dir = os.path.abspath(args.model_name)    out_dir  = os.path.abspath(args.out_dir or lora_dir + "-merged")    os.makedirs(out_dir, exist_ok=True)    # 检查文件存在性    for f, desc in [(lora_dir, "LoRA目录"), (base_dir, "基座目录")]:        assert os.path.isdir(f), f"{desc}不存在: {f}"    assert os.path.isfile(os.path.join(lora_dir, "adapter_config.json")), "缺少 adapter_config.json"    assert os.path.isfile(os.path.join(base_dir, "config.json")), "基座目录缺少 config.json"    # 设置设备与 dtype    device_map = None if args.cpu else "auto"    dtype = torch.float32 if args.cpu else (torch.bfloat16 if torch.cuda.is_bf16_supported() else torch.float16)    # 加载基座模型    base = AutoModelForCausalLM.from_pretrained(        base_dir, torch_dtype=dtype, device_map=device_map, trust_remote_code=True, local_files_only=True    )    # 加载LoRA并合并    merged = PeftModel.from_pretrained(base, lora_dir, is_trainable=False).merge_and_unload()    # 保存完整模型和 tokenizer    merged.save_pretrained(out_dir, safe_serialization=True, max_shard_size="2GB")    AutoTokenizer.from_pretrained(base_dir, trust_remote_code=True, local_files_only=True).save_pretrained(out_dir)    # 尝试保存 generation_config    if hasattr(base, "generation_config") and base.generation_config is not None:        try: base.generation_config.save_pretrained(out_dir)        except: pass    # 拷贝可选额外文件    for extra in ["chat_template.jinja"]:        src = os.path.join(base_dir, extra)        if os.path.isfile(src): shutil.copy2(src, os.path.join(out_dir, extra))
if __name__ == "__main__":    main()