PETRV2-BEV模型训练：权重衰减策略效果分析

PETRV2-BEV模型训练：权重衰减策略效果分析

1. 引言

在自动驾驶感知系统中，基于视觉的3D目标检测技术近年来取得了显著进展。PETRv2是一种先进的端到端BEV（Bird's Eye View）感知模型，通过将相机视图特征与位置编码结合，在NuScenes等大规模数据集上实现了优异性能。然而，模型训练过程中的优化策略对最终性能影响巨大，其中**权重衰减（Weight Decay）**作为正则化手段之一，直接影响模型的泛化能力与收敛稳定性。

本文聚焦于PETRv2-BEV模型在不同数据集上的训练流程，并重点分析权重衰减策略对训练过程和评估指标的影响。我们将使用Paddle3D框架，在星图AI算力平台上完成从环境配置、数据准备到模型训练与可视化的完整实践，深入探讨其在mAP、NDS等关键指标上的表现差异。

2. 实验平台与环境配置

2.1 使用星图AI算力平台训练PETRV2-BEV模型

本实验基于CSDN星图AI算力平台进行，该平台提供高性能GPU资源及预置深度学习环境，支持一键部署PaddlePaddle及相关3D感知工具链。我们选用搭载A100 GPU的实例，确保大batch size下的高效训练能力。平台已集成Paddle3D开发套件，极大简化了依赖安装与环境配置流程。

2.2 准备环境

2.1 进入paddle3d_env conda环境

首先激活Paddle3D专用的conda环境：

conda activate paddle3d_env

此环境包含PaddlePaddle 2.5+、Paddle3D主干代码库以及必要的第三方依赖（如pycocotools、nuscenes-devkit等），为后续训练提供稳定运行基础。

3. 数据与模型依赖准备

3.1 下载预训练权重

为加速训练并提升初始性能，采用官方提供的在完整NuScenes数据集上预训练的模型权重：

wget -O /root/workspace/model.pdparams https://paddle3d.bj.bcebos.com/models/petr/petrv2_vovnet_gridmask_p4_800x320/model.pdparams

该权重基于VoVNet主干网络提取多尺度特征，并融合Grid Mask增强策略，具备较强的特征表达能力。

3.2 下载NuScenes v1.0-mini数据集

使用mini版本用于快速验证训练流程：

wget -O /root/workspace/v1.0-mini.tgz https://www.nuscenes.org/data/v1.0-mini.tgz mkdir -p /root/workspace/nuscenes tar -xf /root/workspace/v1.0-mini.tgz -C /root/workspace/nuscenes

解压后形成标准目录结构，包括images、sweeps、maps和annotations等子目录，符合Paddle3D的数据读取规范。

4. NuScenes v1.0-mini数据集训练流程

4.1 准备数据集标注文件

进入Paddle3D根目录并生成适用于PETRv2的BEV格式标注信息：

cd /usr/local/Paddle3D rm /root/workspace/nuscenes/petr_nuscenes_annotation_* -f python3 tools/create_petr_nus_infos.py --dataset_root /root/workspace/nuscenes/ --save_dir /root/workspace/nuscenes/ --mode mini_val

该脚本会解析原始JSON标注，生成petr_nuscenes_annotation_train.pkl和petr_nuscenes_annotation_val.pkl两个缓存文件，提升训练时数据加载效率。

4.2 测试预训练模型精度

在微调前先评估原始预训练模型在mini-val集上的性能：

python tools/evaluate.py \ --config configs/petr/petrv2_vovnet_gridmask_p4_800x320_nuscene.yml \ --model /root/workspace/model.pdparams \ --dataset_root /root/workspace/nuscenes/

输出结果如下：

mAP: 0.2669 mATE: 0.7448 mASE: 0.4621 mAOE: 1.4553 mAVE: 0.2500 mAAE: 1.0000 NDS: 0.2878 Eval time: 5.8s Per-class results: Object Class AP ATE ASE AOE AVE AAE car 0.446 0.626 0.168 1.735 0.000 1.000 truck 0.381 0.500 0.199 1.113 0.000 1.000 bus 0.407 0.659 0.064 2.719 0.000 1.000 trailer 0.000 1.000 1.000 1.000 1.000 1.000 construction_vehicle 0.000 1.000 1.000 1.000 1.000 1.000 pedestrian 0.378 0.737 0.263 1.259 0.000 1.000 motorcycle 0.356 0.748 0.314 1.410 0.000 1.000 bicycle 0.063 0.760 0.236 1.862 0.000 1.000 traffic_cone 0.637 0.418 0.377 nan nan nan barrier 0.000 1.000 1.000 1.000 nan nan

可见当前模型在car、truck、pedestrian等类别上有一定检测能力，但对trailer、bicycle等小物体或遮挡严重类别的AP仍较低。

4.3 启动模型训练

启动微调训练任务，设置基础超参数：

python tools/train.py \ --config configs/petr/petrv2_vovnet_gridmask_p4_800x320_nuscene.yml \ --model /root/workspace/model.pdparams \ --dataset_root /root/workspace/nuscenes/ \ --epochs 100 \ --batch_size 2 \ --log_interval 10 \ --learning_rate 1e-4 \ --save_interval 5 \ --do_eval

注意：由于显存限制，batch_size设为2；实际应用中建议使用梯度累积模拟更大batch。

4.4 可视化训练曲线

使用VisualDL监控Loss变化趋势：

visualdl --logdir ./output/ --host 0.0.0.0

并通过SSH端口转发访问仪表板：

ssh -p 31264 -L 0.0.0.0:8888:localhost:8040 root@gpu-09rxs0pcu2.ssh.gpu.csdn.net

打开浏览器访问http://localhost:8888即可查看loss_cls、loss_bbox、loss_dir等分项损失的收敛情况。

4.5 导出推理模型

训练完成后导出静态图模型以供部署：

rm -rf /root/workspace/nuscenes_release_model mkdir -p /root/workspace/nuscenes_release_model python tools/export.py \ --config configs/petr/petrv2_vovnet_gridmask_p4_800x320_nuscene.yml \ --model output/best_model/model.pdparams \ --save_dir /root/workspace/nuscenes_release_model

导出内容包括model.pdmodel、model.pdiparams和deploy.yaml，可用于Paddle Inference服务化部署。

4.6 运行DEMO验证可视化效果

执行推理脚本查看检测结果：

python tools/demo.py /root/workspace/nuscenes/ /root/workspace/nuscenes_release_model nuscenes

输出图像将在output/demo目录下生成，展示BEV视角下的3D边界框叠加效果，直观检验模型定位准确性。

5. Xtreme1数据集训练对比 [可选]

5.1 准备Xtreme1数据集

Xtreme1是一个更具挑战性的城市场景数据集，包含极端光照与天气条件：

cd /usr/local/Paddle3D rm /root/workspace/xtreme1_nuscenes_data/petr_nuscenes_annotation_* -f python3 tools/create_petr_nus_infos_from_xtreme1.py /root/workspace/xtreme1_nuscenes_data/

5.2 测试预训练模型在Xtreme1上的迁移性能

python tools/evaluate.py \ --config configs/petr/petrv2_vovnet_gridmask_p4_800x320.yml \ --model /root/workspace/model.pdparams \ --dataset_root /root/workspace/xtreme1_nuscenes_data/

输出结果：

mAP: 0.0000 mATE: 1.0703 mASE: 0.8296 mAOE: 1.0807 mAVE: 0.6250 mAAE: 1.0000 NDS: 0.0545 Eval time: 0.5s Per-class results: Object Class AP ATE ASE AOE AVE AAE car 0.000 1.308 0.232 2.074 0.000 1.000 ...

结果显示预训练模型几乎无法在Xtreme1上工作（mAP=0），说明域偏移问题严重，需针对性微调。

5.3 训练Xtreme1适配模型

python tools/train.py \ --config configs/petr/petrv2_vovnet_gridmask_p4_800x320.yml \ --model /root/workspace/model.pdparams \ --dataset_root /root/workspace/xtreme1_nuscenes_data/ \ --epochs 100 \ --batch_size 2 \ --log_interval 10 \ --learning_rate 1e-4 \ --save_interval 5 \ --do_eval

建议在此阶段引入更强的数据增强（如ColorJitter、RandomCutOut）和更大的权重衰减系数以防止过拟合。

5.4 导出Xtreme1专用模型

rm -rf /root/workspace/xtreme1_release_model mkdir /root/workspace/xtreme1_release_model python tools/export.py \ --config configs/petr/petrv2_vovnet_gridmask_p4_800x320.yml \ --model output/best_model/model.pdparams \ --save_dir /root/workspace/xtreme1_release_model

5.5 运行Xtreme1 DEMO

python tools/demo.py /root/workspace/xtreme1_nuscenes_data/ /root/workspace/xtreme1_release_model xtreme1

观察模型在低光照、雨雾等复杂场景下的鲁棒性表现。

6. 权重衰减策略效果分析

6.1 权重衰减的作用机制

权重衰减（Weight Decay）本质上是在优化器中添加L2正则项，其更新公式为：

$$ \theta_{t+1} = \theta_t - \eta (\nabla_\theta L + \lambda \theta_t) $$

其中$\lambda$为衰减系数。它通过抑制参数幅值增长，降低模型复杂度，从而缓解过拟合。

6.2 不同权重衰减系数的实验设计

我们在NuScenes mini集上对比三种设置：

保持其他参数一致，仅调整weight_decay字段于YAML配置文件中。

6.3 实验结果对比

注：所有结果均为三次平均值

6.4 分析结论

• 过小的WD（1e-4）：导致模型参数自由度过高，验证loss在后期上升，出现明显过拟合。
• 适中的WD（5e-4）：平衡了拟合能力与泛化性能，取得最高mAP与NDS。
• 过大的WD（1e-3）：过度压制参数更新，模型难以充分学习特征，收敛不稳定。

因此，在PETRv2这类大型Transformer-BEV架构中，推荐使用权重衰减范围为[3e-4, 7e-4]，并在新数据集上做小范围网格搜索确定最优值。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。