Unsloth微调Qwen3实战：让大模型训练飞起来的神器

from unsloth import FastLanguageModelimport torch
# 检查CUDA是否可用print(f"CUDA available: {torch.cuda.is_available()}")print(f"CUDA version: {torch.version.cuda}")
# 如果这些都正常输出，说明环境搭建成功了

[    {        "instruction": "请解释一下什么是机器学习",        "input": "",        "output": "机器学习是人工智能的一个分支，它让计算机能够在没有明确编程的情况下学习和改进。简单来说，就是让机器通过大量数据找出规律，然后用这些规律来预测或决策。"    },    {        "instruction": "根据以下信息，写一个产品介绍",        "input": "产品名称：智能手环\n功能：心率监测、步数统计、睡眠分析\n价格：299元",        "output": "这款智能手环是您健康生活的贴心伙伴。它具备专业级心率监测功能，能够实时跟踪您的运动状态。内置的步数统计器让您随时了解自己的运动量，而智能睡眠分析功能则帮您优化睡眠质量。仅售299元，性价比超高！"    }]

from unsloth import FastLanguageModelfrom unsloth.chat_templates import get_chat_templateimport torchfrom trl import SFTTrainerfrom transformers import TrainingArgumentsfrom datasets import Datasetimport json
# 加载模型和tokenizermax_seq_length = 2048  # 可以设置更大，但要注意显存dtype = None  # 让Unsloth自动选择最优的数据类型load_in_4bit = True  # 使用4bit量化来节省显存
model, tokenizer = FastLanguageModel.from_pretrained(    model_name = "Qwen/Qwen2.5-7B-Chat",  # 你也可以换成其他版本    max_seq_length = max_seq_length,    dtype = dtype,    load_in_4bit = load_in_4bit,    # token = "hf_...",  # 如果是私有模型需要HuggingFace token)
# 添加LoRA适配器model = FastLanguageModel.get_peft_model(    model,    r = 16,  # LoRA的rank，数值越大模型容量越大，但训练越慢    target_modules = ["q_proj", "k_proj", "v_proj", "o_proj",                      "gate_proj", "up_proj", "down_proj",],    lora_alpha = 16,    lora_dropout = 0,  # Unsloth优化后，通常设为0    bias = "none",  # Unsloth优化后，通常设为none    use_gradient_checkpointing = "unsloth",  # 使用Unsloth的优化    random_state = 3407,    use_rslora = False,  # 我们支持Rank Stabilized LoRA    loftq_config = None,  # 以及LoftQ)
# 设置聊天模板tokenizer = get_chat_template(    tokenizer,    chat_template = "qwen-2.5",  # 使用Qwen2.5的聊天模板)
# 数据预处理函数def formatting_prompts_func(examples):    convos = []    for instruction, input_text, output in zip(examples["instruction"], examples["input"], examples["output"]):        if input_text:            text = f"User: {instruction}\n{input_text}\nAssistant: {output}"        else:            text = f"User: {instruction}\nAssistant: {output}"        convos.append(text)    return {"text": convos}
# 加载和处理数据with open("your_training_data.json", "r", encoding="utf-8") as f:    train_data = json.load(f)
dataset = Dataset.from_list(train_data)dataset = dataset.map(formatting_prompts_func, batched=True)
# 设置训练参数trainer = SFTTrainer(    model = model,    tokenizer = tokenizer,    train_dataset = dataset,    dataset_text_field = "text",    max_seq_length = max_seq_length,    dataset_num_proc = 2,    packing = False,  # 可以设为True来提高训练效率    args = TrainingArguments(        per_device_train_batch_size = 2,  # 根据你的显存调整        gradient_accumulation_steps = 4,        warmup_steps = 5,        num_train_epochs = 3,  # 通常1-3个epoch就够了        learning_rate = 2e-4,        fp16 = not torch.cuda.is_bf16_supported(),        bf16 = torch.cuda.is_bf16_supported(),        logging_steps = 1,        optim = "adamw_8bit",        weight_decay = 0.01,        lr_scheduler_type = "linear",        seed = 3407,        output_dir = "outputs",        save_strategy = "epoch",        save_steps = 100,        evaluation_strategy = "no",  # 如果有验证集可以改为"steps"    ),)
# 开始训练trainer_stats = trainer.train()

# 你可以用这个简单的脚本来监控GPU使用情况import GPUtilimport time
def monitor_gpu():    while True:        gpus = GPUtil.getGPUs()        for gpu in gpus:            print(f"GPU {gpu.id}: {gpu.memoryUsed}MB / {gpu.memoryTotal}MB ({gpu.memoryPercent:.1f}%)")        time.sleep(30)  # 每30秒检查一次
# 在另一个终端运行这个函数

# 加载微调后的模型model, tokenizer = FastLanguageModel.from_pretrained(    model_name = "outputs",  # 你的输出目录    max_seq_length = max_seq_length,    dtype = dtype,    load_in_4bit = load_in_4bit,)FastLanguageModel.for_inference(model)  # 启用推理模式
# 测试函数def test_model(instruction, input_text=""):    if input_text:        prompt = f"User: {instruction}\n{input_text}\nAssistant:"    else:        prompt = f"User: {instruction}\nAssistant:"
    inputs = tokenizer([prompt], return_tensors="pt").to("cuda")
    with torch.no_grad():        outputs = model.generate(            **inputs,            max_new_tokens=256,            temperature=0.7,            do_sample=True,            pad_token_id=tokenizer.eos_token_id        )
    response = tokenizer.decode(outputs[0], skip_special_tokens=True)    return response.split("Assistant:")[-1].strip()
# 来几个测试print("测试1:", test_model("请介绍一下深度学习"))print("测试2:", test_model("帮我写一个Python排序函数"))print("测试3:", test_model("解释一下什么是区块链"))

{    "conversations": [        {"role": "user", "content": "我想了解一下机器学习"},        {"role": "assistant", "content": "机器学习是人工智能的一个重要分支..."},        {"role": "user", "content": "那深度学习和机器学习有什么区别呢？"},        {"role": "assistant", "content": "深度学习其实是机器学习的一个子集..."}    ]}

# 量化示例代码from unsloth import FastLanguageModel
model, tokenizer = FastLanguageModel.from_pretrained(    model_name = "outputs",    max_seq_length = 2048,    dtype = None,    load_in_4bit = True,)
# 保存量化后的模型model.save_pretrained_merged("quantized_model", tokenizer, save_method = "merged_16bit")