YOLOv5在RK3588上性能翻倍：INT8量化与轻量化部署全实战

往期文章
RK3588测试NPU和RKNN函数包装：https://blog.csdn.net/FJN110/article/details/149669753
RK3588刷机：https://blog.csdn.net/FJN110/article/details/149669404
以及深度学习部署工程师1~31主要学习tensorRT、cmake、docker、C++基础、语义分割、目标检测、关键点识别、RTSP推流、3D模型部署等知识
好的进入本节课程

1比较转化前后的onnx模型

下载我网盘里面的

原yolov5的onnx模型：

转化为RKnn支持的onnx结构：

主要的改动点：将模型原来的box decode删除掉了，然后把剩余部分拿到NPU之外运行，提高检测速度。
可能是这个检测头不支持NPU运行。
怎么转换模型为RKNN版本可以看我前面的章节，这一节主要是YOLOv5轻量化，多线程推理，以及NPU