198、RKNN 瑞芯微 NPU 部署:模型转换、混合量化与 Python/C++ 推理 API 完整流程

📅 2026/7/12 15:19:13
198、RKNN 瑞芯微 NPU 部署:模型转换、混合量化与 Python/C++ 推理 API 完整流程
198、RKNN 瑞芯微 NPU 部署:模型转换、混合量化与 Python/C++ 推理 API 完整流程一、从一次“模型跑飞”的调试说起去年帮客户部署YOLOv11n到RK3588,模型转换完一跑推理,输出全是NaN。当时盯着终端看了五分钟,心想“完了,这周又得加班”。后来发现是量化校准集里混了一张全黑图——就这么一张图,让整个模型的激活值分布直接崩了。从那以后,我养成了一个习惯:校准集必须做异常值过滤,哪怕只多花10分钟。今天这篇笔记,就把RKNN部署YOLOv11的完整流程、踩过的坑、以及实测的消融数据,全部摊开来讲。不废话,直接上代码。二、环境准备与模型导出(别用torch.onnx.export默认参数)2.1 依赖版本锁定(这里踩过坑)# 2025年12月实测稳定组合rknn-toolkit2==1.6.0 rknn-toolkit-lite2==1.6.0 torc