这类教程最怕的就是一上来就列一堆命令结果环境装不上、依赖冲突、训练报错最后连个最简单的检测都跑不起来。我建议先把整个流程拆成四块环境准备、单张图推理、数据集整理、训练验证。如果你刚接触目标检测按这个顺序走一遍能避开至少八成常见问题。1. 先搞清楚你的机器能不能跑再决定装哪个版本YOLO 现在主流有 v5、v8、v11、v26 等多个版本新手不用纠结哪个最强先看哪个能在你的机器上稳定跑起来。1.1 显存和内存是最关键的限制条件显存如果要用 GPU 训练显存至少 4GB。显存 2GB 左右的卡比如 GTX 1050 Ti只能跑小模型推理训练会很吃力。内存数据集加载时很吃内存建议 8GB 以上。如果内存不足训练时把workers参数调小比如设为 0 或 1。磁盘预留 10GB 空间装环境、模型和数据集。数据集越大空间需求越高。判断方法Windows任务管理器看“性能”标签页。Linux用nvidia-smi看显存free -h看内存。如果资源紧张建议从 YOLOv8n 或 YOLOv5s 这种小模型开始它们对硬件要求最低。1.2 环境安装的核心是避免版本冲突很多人卡在环境安装是因为直接用pip install ultralytics时PyTorch 版本可能不匹配。更稳妥的方法是先装 PyTorch再装 YOLO。步骤去 PyTorch 官网https://pytorch.org/根据你的 CUDA 版本选择安装命令。如果不确定 CUDA 版本可以先装 CPU 版本。验证 PyTorch 能正常导入python -c import torch; print(torch.__version__)再安装 Ultralyticspip install ultralytics如果遇到权限问题可以加--user如果网络慢换国内镜像源如清华源、阿里源。1.3 验证安装是否成功不要只看安装没报错要实际跑一个最简单的推理from ultralytics import YOLO model YOLO(yolov8n.pt) # 自动下载预训练模型 results model(https://ultralytics.com/images/bus.jpg) # 检测示例图片如果能看到检测结果说明环境没问题。如果报错通常是网络问题模型下载失败或依赖冲突重装环境。2. 用单张图推理熟悉整个流程正式训练前先用预训练模型跑通单张图推理。这一步能帮你理解 YOLO 的输入输出格式后面处理数据集和训练时就不会懵。2.1 输入图片的常见问题格式支持 JPG、PNG 等常见格式但路径不要有中文或特殊字符。尺寸YOLO 会自动缩放图片但超大图比如 4000x3000 以上可能会显存溢出可以先缩放到 1000x1000 左右。通道数如果是 4 通道 PNG带透明度YOLO 会自动转成 3 通道但最好提前处理成 RGB。代码示例from ultralytics import YOLO import cv2 # 加载模型 model YOLO(yolov8n.pt) # 方法1直接传图片路径 results model(path/to/your/image.jpg) # 方法2用 OpenCV 读图后再传 img cv2.imread(path/to/your/image.jpg) results model(img) # 查看结果 for r in results: boxes r.boxes # 检测框 print(boxes.xywh) # 框的坐标中心点x,y 宽高 print(boxes.cls) # 类别ID print(boxes.conf) # 置信度2.2 输出结果怎么解读YOLO 的检测结果包含三个关键信息坐标通常是归一化后的中心点坐标和宽高0~1之间要乘以图片实际宽高才能得到像素坐标。类别对应 COCO 数据集的 80 个类别0人1自行车...如果你用自己的数据集类别ID会变。置信度模型有多确信这个框里是目标一般设个阈值比如 0.5过滤掉低置信度的结果。可视化检测结果# 直接保存带检测框的图片 results model(image.jpg) results[0].save(output.jpg) # 自动画框并保存2.3 常见推理报错排查模型下载失败手动下载模型文件.pt然后用绝对路径加载model YOLO(/home/user/models/yolov8n.pt)显存不足换更小的模型如 yolov8n.pt或缩小输入图片尺寸imgsz320。图片路径错误用os.path.exists()确认路径是否正确。3. 准备自定义数据集的关键步骤很多人训练失败是因为数据集格式不对。YOLO 需要特定的目录结构和标注格式。3.1 数据集目录结构dataset/ ├── images/ │ ├── train/ # 训练图片 │ └── val/ # 验证图片 └── labels/ ├── train/ # 训练标注 └── val/ # 验证标注注意图片和标注文件要一一对应比如image001.jpg对应image001.txt。训练集和验证集不要有重叠一般按 8:2 或 7:3 划分。3.2 标注文件格式每个标注文件是纯文本每行一个目标格式为class_id x_center y_center width heightclass_id类别ID从0开始编号。x_center y_center width height归一化后的坐标除以图片宽高。示例如果图片尺寸是 640x480有个框的中心在 (320,240)宽高为 (100,80)那么归一化后0 0.5 0.5 0.15625 0.1666663.3 数据集配置文件.yaml创建一个 YAML 文件告诉 YOLO 数据集在哪里、有哪些类别# dataset.yaml path: /home/user/dataset # 数据集根目录 train: images/train # 训练图片相对路径 val: images/val # 验证图片相对路径 nc: 3 # 类别数量 names: [cat, dog, person] # 类别名称常见错误路径不对用绝对路径最保险。类别ID不连续必须从0开始连续编号。标注坐标超出0~1范围检查归一化计算。3.4 数据标注工具推荐LabelImg开源支持 YOLO 格式导出。Roboflow在线标注平台能自动转换格式。CVAT功能更强大适合团队协作。标注时注意框要紧贴目标边缘。遮挡严重的目标可以单独标注。小目标要标得特别准因为模型很难检测。4. 开始训练参数不要乱调新手最容易犯的错误是一上来就改一堆参数结果模型根本不收敛。4.1 最小化训练配置先用默认参数跑通再考虑调优from ultralytics import YOLO model YOLO(yolov8n.pt) # 加载预训练模型 model.train( datadataset.yaml, # 数据集配置 epochs50, # 训练轮数 imgsz640, # 输入图片尺寸 batch16, # 批量大小 workers2, # 数据加载进程数 )参数解释epochs一般 50-100 轮足够看到效果不要一上来就设 300 轮。imgsz尺寸越大精度可能越高但显存占用也越大。显存不足时降到 320。batch根据显存调整显存小就调小 batch。workers数据加载进程数CPU 核数多可以调大但太大可能卡死。4.2 训练过程监控训练开始后关注几个关键指标损失函数train/box_loss,train/cls_loss应该逐渐下降。验证指标val/mAP50应该逐渐上升。显存占用如果一直 100%说明 batch 太大或 imgsz 太大。终端输出示例Epoch GPU_mem box_loss cls_loss dfl_loss Instances Size 1/50 2.1G 1.234 1.567 1.089 32 640 2/50 2.1G 1.123 1.432 1.023 32 640 ...如果损失不下降或变成 NaN通常是学习率太大或数据有问题。4.3 训练中断和恢复如果训练中途停止可以自动从上次的检查点恢复model.train(resumeTrue) # 自动找到最新的检查点检查点保存在runs/detect/train/weights目录下包括last.pt最后一个epoch的权重用于恢复训练。best.pt验证集上表现最好的权重用于实际使用。4.4 常见训练问题排查问题1CUDA runtime error显存不足解决方法减小batch或imgsz或者换更小的模型。问题2训练损失不下降检查数据标注是否正确可视化几个样本看看。检查学习率是否太小默认一般没问题不要乱调。检查类别数量nc是否设置正确。问题3验证指标远低于训练指标可能是过拟合增加数据增强或减少训练轮数。检查训练集和验证集是否来自同一分布。5. 模型验证和实际使用训练完成后不要只看准确率数字要实际测试效果。5.1 验证模型性能model YOLO(runs/detect/train/weights/best.pt) # 加载最佳模型 metrics model.val() # 在验证集上评估 print(metrics.box.map50) # 输出 mAP50关键指标mAP50IoU阈值为0.5时的平均精度大于0.5说明模型可用。mAP50-95IoU阈值从0.5到0.95的平均值更严格的指标。5.2 用训练好的模型推理和用预训练模型一样只是换成本地训练的权重results model(new_image.jpg) results[0].save(detection_result.jpg)5.3 模型导出为其他格式如果需要部署到其他平台可以导出为 ONNX、TensorRT 等格式model.export(formatonnx) # 导出为 ONNX6. 实际项目中的经验要点6.1 数据质量比算法更重要标注错误的数据比没有数据更糟糕。每个类别至少需要 100-200 个样本才能有基本效果。训练集要覆盖实际场景的各种情况不同光照、角度、遮挡。6.2 不要一上来就追求最先进的模型YOLOv8n 在大多数场景下已经足够好用。模型越大、越新对数据和计算资源的要求越高。先用小模型跑通整个流程再考虑升级模型。6.3 建立可重复的实验记录每次训练保存完整的配置和结果。使用版本控制Git管理代码和配置文件。记录训练环境PyTorch版本、CUDA版本等。6.4 生产环境部署考虑模型大小和推理速度的平衡。内存/显存占用要留有余量。添加异常处理和日志记录。这套流程走下来你应该能完成从环境安装到自定义训练的全过程。最关键的是先跑通最小可行流程再逐步优化。遇到问题不要急着调参数先检查数据和环境配置大多数问题都出在这些基础环节。