香橙派5使用NPU加速yolov5的实时视频推理(一)

前言:

        寒假里,博主完成了树莓派4B搭载yolofastest-V2的ncnn加速,效果挺不错的,但总感觉还是稍微差点意思,于是就购买了一块香橙派5,想要用RK3588芯片自带的NPU来加速深度学习的部署,在2023年3月4日也是完成了香橙派5的NPU加速深度学习部分,其效果也确实非常可观,在画质较低的情况下,运行速度达到了100fps以上,下面是我在B站发布的效果视频点我跳转。这篇博客也是为了总结一下玩香橙派5的时候遇到的坑。

准备材料:

        1、香橙派5

        2、一台windows10或windows11的电脑

        3、一个内部带有Ubuntu20.04的移动硬盘(如果没有,也可以用VMware安装个虚拟机也行)。

        3、USB摄像头(某宝上有卖的,啥都可以)用来做视频识别

        4、64G内存卡(烧录了官方的Debian11系统)、HDMI线、显示屏、官方的电源线、键鼠套装

        5、香橙派5官方提供的无线网卡(其他网卡应该也行,只不过当时我买了,即使安装了驱动也没上成网)

        6、散热壳(也是某宝买的,不是官方的)

 说明:

        关于RKNN,官方给出了两种思路,一种是关于C的,另一种是关于Python的,这里我只介绍Python有关部分。

        在接下来的操作中,一和二是在windows系统上进行操作的,三是在Ubuntu20.04系统上进行的,四是在香橙派5上操作的,大家注意区分!!!

一、使用官方指定的yolov5版本去训练:

        不瞒大家,对于yolov5来说,博主本人在寒假之前也没用过,这个寒假才学会了yolov5的训练和应用,在此之前,我甚至都不知道yolov5还分为多个版本,RKNN官方教程

进入教程后,首先点击框内链接跳转至yolov5的GitHub仓库

 博主这里跳转过后是403,没关系,我们直接点击yoloV5官方库跳转至如下界面。

 点击左上角箭头所指区域,搜索c5360f6e7009eb4d05f14d1cc9dae0963e949213,跳转至如下界面,按顺序点击箭头所指区域

 进入如下界面后,点击Browse file

 这样,我们就找到了正确的版本了

 把代码保存到本地,接下来,我们点击Releases · ultralytics/yolov5 · GitHub,进入如下界面

 滚动滑轮大概在界面的中部位置,点击箭头所指区域

 进入如下界面

滑动滚轮到页面底部,下载我们的预训练模型yolov5s.pt

 然后就是开始我们的yolov5的简单训练了,这里我参考的是这篇博客,这位博主写的很好,对小白很友好小白YOLOv5全流程-训练+实现数字识别_yolov5数字识别_牛大了2022的博客-CSDN博客

        当然了,我们因为选择了不同的版本,会出现一点小的问题,这里我也记录了下来。

        1、这里一定要采用单引号,否则就会报出这个错误ValueError: too many dimensions ‘str‘

        2、当出现OSError: [WinError 1455] 页面文件太小,无法完成操作,一般是要去给Anaconda所在的盘符分配一定的虚拟内存,同时把train.py里的’–batch-size’选项调小,我是轻薄本,于是就改成了4,虚拟内存分配了50G,此外,如果多次输出这个错误的话,就尽量不要用python终端去执行命令了,直接修改train.py里面的参数,然后运行train.py

        3、当出现如下错误的时候,不要慌张,可以把所有的np.int修改成np.int_即可

 4、如果以上错误都解决了的话,已经开始训练了,结果出现下面的错误

 这样的话,就要进入loss.py函数,修改两个地方,第一个地方:

for i in range(self.nl):
        anchors = self.anchors[i]

 改为如下所示:

 for i in range(self.nl):
        anchors, shape = self.anchors[i], p[i].shape

第二个地方:

indices.append((b, a, gj.clamp_(0, gain[3] - 1), gi.clamp_(0, gain[2] - 1)))  # image, anchor, grid 

改为:

indices.append((b, a, gj.clamp_(0, shape[2] - 1), gi.clamp_(0, shape[3] - 1)))  # image, anchor, grid

 以上的错误解决完了就可以训练了。博主我啊,为了写这篇博客,还把这整个操作给又弄了一遍,各位看在这么辛苦的份上,给我点个赞吧。

二、将训练好的best.pt转为best.onnx

        这里,我们再次进入RKNN官方教程这里,按照官方提供的步骤来操作。

香橙派5使用NPU加速yolov5的实时视频推理(一)

         这一步一定要等训练完成后,再对export.py进行修改,然后我们要把得出的best.pt复制到export.py同一级文件夹下。

python export.py --weights best.pt --img 640 --batch 1 --include onnx

         我确实报了一大堆警告,最开始我没有去管,后来到了转rknn的时候,出了个大问题

这是报的错误

WARNING: The shape inference of prim::Constant type is missing, so it may result in wrong shape inference for the exported graph. Please consider adding it in symbolic function.

         我们要到export.py文件里面,把’–opset’选项该成11,再次运行代码,弹出下面的界面,没有了上面说的警告,但还是会有一些警告,博主上网查了一些,说是深度神经网络的网络结构太灵活,网络结构中出现不少if else 语句,需要去掉,这个我没在意,后续也没出啥问题。

         之后,在export.py的同级目录下,就会生成best.onnx这个文件,我们需要做的就是把这个文件copy到我们的Ubuntu20.04系统里面,进行处理。

写不开了,大家可以跟着看第二篇

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
青葱年少的头像青葱年少普通用户
上一篇 2023年4月19日
下一篇 2023年4月19日

相关推荐