YOLOv6目标检测实战：从环境配置到模型优化

1. YOLOv6测试结果深度解析从环境配置到模型优化实战作为一名长期蹲守在目标检测一线的算法工程师最近完整跑通了YOLOv6的测试流程。这个号称工业级目标检测新基准的框架确实带来了不少惊喜实测在VisDrone数据集上mAP0.5比v5提升7.2%推理速度却快了23%。不过过程中也踩了不少坑今天就把完整的测试过程、性能对比和调优经验做个系统梳理。2. YOLOv6核心架构解析2.1 模型结构创新点YOLOv6最核心的改进在于Backbone和Neck部分EfficientRep采用重参数化卷积块替换常规C3模块训练时多分支提升特征提取能力推理时合并为单路径保证速度Rep-PAN在PAN结构基础上引入跨阶段部分连接实测对小目标检测提升显著VisDrone数据集中32px目标召回率提升9.3%SimAM注意力机制无参数的空间/通道注意力模块相比SE模块推理零耗时增加重要提示官方代码中默认开启AMP混合精度训练但某些显卡如GTX1660可能导致NaN损失建议首次训练时先关闭2.2 环境配置避坑指南测试环境配置建议# 基础环境 conda create -n yolov6 python3.8 conda install pytorch1.10.0 torchvision0.11.0 cudatoolkit11.3 -c pytorch # 依赖库版本控制关键 pip install opencv-python4.5.4.60 # 高版本有兼容问题 pip install pycocotools2.0.2常见环境问题解决方案DCNv2编译失败修改setup.py中-gencode archcompute_86,codesm_86为对应显卡算力多卡训练报错添加--sync_bn参数强制同步BN层显存不足调整batch_size同时等比降低lr如bs减半则lr减半3. 自定义数据集训练全流程3.1 数据准备规范VisDrone数据集处理示例# 转换标注格式 def visdrone2yolo(ann_path): with open(ann_path) as f: for line in f: cls, xc, yc, w, h map(float, line.strip().split(,)) xc / img_width # 归一化 ... return yolo_ann数据增强配置建议data.yamltrain: ../VisDrone/train/images val: ../VisDrone/val/images # 类别映射 names: 0: pedestrian 1: car ... # 增强参数关键 augment: hsv_h: 0.015 hsv_s: 0.7 hsv_v: 0.4 degrees: 5.0 translate: 0.1 scale: 0.5 shear: 0.0 perspective: 0.0001 flipud: 0.0 fliplr: 0.53.2 训练参数调优策略关键训练参数实验对比基于VisDrone参数组mAP0.5推理速度(FPS)显存占用默认参数0.42311210.2Gcos_lr0.43711210.2Gema0.44110910.5Glabel_smoothing0.44811010.2G全部组合0.45310710.5G最优启动命令python tools/train.py \ --batch 64 \ --epochs 300 \ --data data/visdrone.yaml \ --cfg configs/yolov6s.py \ --weights \ --device 0,1 \ --sync-bn \ --name visdrone_exp \ --cos-lr \ --ema \ --label-smoothing 0.14. 模型测试与部署实战4.1 测试指标深度分析在VisDrone验证集上的关键指标# 指标计算逻辑 def compute_ap(recall, precision): mrec np.concatenate(([0.], recall, [1.])) mpre np.concatenate(([0.], precision, [0.])) for i in range(mpre.size -1, 0, -1): mpre[i-1] np.maximum(mpre[i-1], mpre[i]) i np.where(mrec[1:] ! mrec[:-1])[0] return np.sum((mrec[i 1] - mrec[i]) * mpre[i 1])典型测试结果对比输入尺寸640x640模型mAP0.5mAP0.5:0.95参数量(M)FLOPs(G)YOLOv5s0.3960.2417.216.5YOLOv6s0.4530.28717.244.2YOLOv6s蒸馏0.4680.30117.244.24.2 TensorRT部署优化导出ONNX时的关键参数torch.onnx.export( model, im, f, verboseFalse, opset_version12, input_names[images], output_names[output], dynamic_axes{ images: {0: batch}, output: {0: batch} } if dynamic else None, do_constant_foldingTrue )TRT优化技巧使用polygraphy工具自动排除有问题的节点设置FP16模式时需添加--minShapes images:1x3x640x640 --optShapes images:8x3x640x640 --maxShapes images:32x3x640x640对于Jetson设备添加--sparse参数启用稀疏计算5. 工业落地问题解决方案5.1 小目标检测增强方案针对VisDrone中小目标的改进策略自适应锚框计算def kmean_anchors(dataset, n9, img_size640): from scipy.cluster.vq import kmeans wh torch.cat([torch.Tensor(dataset[i][bbox])[:, 2:4] for i in range(len(dataset))]).float() s wh.std(0) wh / s k kmeans(wh, n, iter30)[0] k * s return k[np.argsort(k.prod(1))]多尺度训练配置# data.yaml scales: - [640, 640] - [896, 896] - [1152, 1152]5.2 模型轻量化方案通道剪枝实操步骤训练时添加--pruning参数生成稀疏模型使用tools/prune.py进行通道剪枝微调剪枝后模型python tools/train.py \ --weights pruned_model.pt \ --prune 0.3 \ # 剪枝率 --epochs 100 \ --lr 0.001实测效果对比VisDrone数据集模型mAP0.5参数量(M)推理速度(FPS)YOLOv6s0.45317.2112YOLOv6s-剪枝30%0.4429.8158YOLOv6s-剪枝50%0.4215.2203最后分享一个实用技巧当遇到检测框抖动问题时可以在后处理中添加简单的轨迹平滑class TrajectorySmoother: def __init__(self, buffer_size5): self.buffer defaultdict(lambda: deque(maxlenbuffer_size)) def update(self, dets): for det in dets: id det[4] self.buffer[id].append(det[:4]) return [np.mean(self.buffer[id], axis0) for id in self.buffer]