手把手教你用 ms-swift 快速微调 Qwen2.5-7B 模型
1. 环境与资源概览
在开始微调之前，首先需要了解本镜像的环境配置和资源要求。该镜像专为单卡高效微调设计，预置了完整的模型与框架，可实现开箱即用。
1.1 基础环境信息
- 工作路径：
/root - 显卡要求：NVIDIA RTX 4090D（或同等 24GB+ 显存显卡）
- 基础模型：
Qwen2.5-7B-Instruct（已预装于/root/Qwen2.5-7B-Instruct） - 微调框架：ms-swift（已安装并配置完成）
- 显存占用：微调过程约占用 18GB~22GB 显存
- 精度模式：使用
bfloat16进行训练以提升效率
该环境已在 NVIDIA RTX 4090D 上完成验证，确保稳定运行。用户无需手动下载模型或安装依赖，所有准备工作均已自动化处理。
2. 快速启动与原始模型测试
进入容器后，默认工作目录为/root，请在此目录下执行以下命令。
2.1 启动原始模型推理测试
在进行任何微调前，建议先测试原始模型的表现，确认环境是否正常。
cd /root CUDA_VISIBLE_DEVICES=0 \ swift infer \ --model Qwen2.5-7B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 2048参数说明：
--model: 指定模型名称--model_type: 模型类型标识--stream: 开启流式输出--temperature: 推理温度设为 0 表示确定性输出--max_new_tokens: 最大生成长度
预期结果：
模型应能正常响应对话，其自我认知为“我是阿里云开发的...”。此步骤用于验证模型加载和推理功能是否正常。
3. 自定义身份微调实战
接下来将演示如何通过 LoRA 微调技术，将模型的身份从默认开发者更改为自定义身份（例如：“由 CSDN 迪菲赫尔曼 开发”）。
3.1 准备微调数据集
镜像中已预置一个名为self_cognition.json的数据集文件，包含约 50 条关于“你是谁”、“谁开发的你”的问答对。若需重新创建，请执行以下命令：
cat <<EOF > self_cognition.json [ {"instruction": "你是谁？", "input": "", "output": "我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。"}, {"instruction": "你的开发者是哪家公司？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 开发和维护。"}, {"instruction": "你能联网吗？", "input": "", "output": "我不能主动联网，只能基于已有知识和用户输入回答问题。"}, {"instruction": "你能做哪些事情？", "input": "", "output": "我擅长文本生成、回答问题、写代码和提供学习辅助。"}, {"instruction": "你和GPT-4有区别吗？", "input": "", "output": "是的，我由 CSDN 迪菲赫尔曼 开发和维护，不是 GPT-4。"}, {"instruction": "你能保证回答永远正确吗？", "input": "", "output": "不能，我的回答可能存在错误，需要用户自行判断。"}, {"instruction": "你的名字是什么？", "input": "", "output": "你可以叫我 Swift-Robot，也可以叫我 CSDN 助手。"}, {"instruction": "谁在维护你？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 持续开发和维护。"} ] EOF提示：实际应用中建议准备 50 条以上高质量样本以增强记忆效果。
3.2 执行 LoRA 微调命令
使用如下命令启动微调任务。该配置已针对单卡 4090D 优化，采用低秩适应（LoRA）策略降低显存消耗。
CUDA_VISIBLE_DEVICES=0 \ swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system 'You are a helpful assistant.' \ --warmup_ratio 0.05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot核心参数解析：
| 参数 | 说明 |
|---|---|
--train_type lora | 使用 LoRA 方法进行参数高效微调 |
--num_train_epochs 10 | 因数据量较小，增加训练轮数以强化记忆 |
--lora_rank 8 | LoRA 秩大小，控制新增参数维度 |
--lora_alpha 32 | 缩放因子，影响 LoRA 权重贡献程度 |
--target_modules all-linear | 对所有线性层应用 LoRA |
--gradient_accumulation_steps 16 | 梯度累积步数，弥补小 batch size 影响 |
--output_dir output | 训练权重保存路径 |
3.3 训练产物说明
训练完成后，微调权重将以 Adapter 形式保存在/root/output目录下，结构如下：
output/ └── v2-2025xxxx-xxxx/ └── checkpoint-xxx/ ├── adapter_config.json ├── adapter_model.bin └── README.md这些文件即为 LoRA 适配器权重，可用于后续推理加载。
4. 微调效果验证
使用训练好的 LoRA 权重进行推理，验证模型是否成功更新“自我认知”。
CUDA_VISIBLE_DEVICES=0 \ swift infer \ --adapters output/v2-2025xxxx-xxxx/checkpoint-xxx \ --stream true \ --temperature 0 \ --max_new_tokens 2048⚠️ 注意：请将上述命令中的
output/v2-2025xxxx-xxxx/checkpoint-xxx替换为你实际生成的检查点路径。
测试问题示例：
- 用户输入：
你是谁？ - 预期输出：
我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。
如果返回内容符合预期，则表明微调成功。
5. 进阶技巧：混合数据微调
若希望在保留通用能力的同时注入特定身份认知，可通过混合多个数据集的方式进行训练。
5.1 多源数据融合示例
swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset 'AI-ModelScope/alpaca-gpt4-data-zh#500' \ 'AI-ModelScope/alpaca-gpt4-data-en#500' \ 'self_cognition.json' \ --torch_dtype bfloat16 \ --num_train_epochs 3 \ --per_device_train_batch_size 1 \ --gradient_accumulation_steps 16 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --output_dir output_mixed \ --warmup_ratio 0.05数据集说明：
alpaca-gpt4-data-zh/en: 提供通用指令遵循能力self_cognition.json: 注入定制化身份信息#500: 限制每份数据取样 500 条，避免失衡
建议训练策略：
- 初始阶段单独训练身份认知（10 轮）
- 后续阶段结合通用数据微调（3~5 轮），防止过拟合
6. 实践经验总结与最佳实践
经过完整流程操作，我们总结出以下关键实践经验，帮助你在类似项目中少走弯路。
6.1 成功微调的关键要素
数据质量优先
即使只有几十条样本，也应确保格式统一、语义清晰、无歧义表达。合理设置超参数
- 小数据集建议提高
num_train_epochs - 使用
gradient_accumulation_steps补偿低 batch size - 学习率推荐
1e-4~5e-5区间
- 小数据集建议提高
LoRA 参数选择
lora_rank=8是平衡性能与显存的良好起点lora_alpha=32可有效放大低秩更新的影响
监控训练过程
- 观察 loss 下降趋势，避免震荡或不收敛
- 定期保存检查点，便于回滚对比
6.2 推荐实践建议
- ✅命名规范：为不同实验建立独立输出目录，如
output_identity,output_mixed - ✅版本管理：记录每次训练所用数据、参数和结果，便于复现
- ✅增量训练：可在已有 LoRA 基础上继续训练，逐步叠加新知识
- ❌避免全量微调：除非资源充足，否则不推荐 unfrozen 全参微调
7. 总结
本文详细介绍了如何利用 ms-swift 框架，在单张 RTX 4090D 显卡上快速完成 Qwen2.5-7B-Instruct 模型的 LoRA 微调。整个过程涵盖环境准备、数据构建、训练执行、效果验证及进阶优化策略。
通过本教程，你已经掌握了：
- 如何构建轻量级微调数据集
- 如何配置高效的 LoRA 训练参数
- 如何验证微调后的模型行为变化
- 如何融合多源数据实现能力扩展
该方法不仅适用于“自我认知”修改，还可广泛应用于角色扮演、领域知识注入、风格迁移等场景，具备高度实用价值。
获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。
