科普｜YOLOv4在Jetson上到底能够跑多快？

之前YOLO的作者宣布不再对YOLO进行更新以后，大家还都挺伤感的，都在说不会再有YOLOv4了，怎么一转眼，YOLOv4又来了呢？其实这次的YOLOv4并不是原作者的贡献。

一直以来，YOLO在Github上最热的Repo有两个，一个是

https://github.com/pjreddie/darknet，17.2k的Star，我们把它叫做原版；另一个是https://github.com/AlexeyAB/darknet，8.2k的Star，我们把它叫做AlexeyAB版。

而这次的YOLOv4，第一作者就是这个AlexeyAB[1]。

和原版相比AlexeyAB还是做了不少贡献的，比如可以在Windows上运行等等。

之前在很多文章里面写着：YOLOv4的精度跟FPS分别比YOLOv3版本提升10%和12%（原文：Improves YOLOv3’s AP and FPS by 10% and 12%, respectively）。看上去价格便宜量又足啊，那是不是真的是这样呢？明明YOLOv4的网络层数要比YOLOv3多50%左右，激活函数也更加复杂， 性能好我相信，总不能更快这么魔幻吧？

其实作者的这个描述有一定程度的误导，因为他是用YOLOv3 416x416输出尺寸，和YOLOv4 320x320输入尺寸来进行对比的[2]。当然从最终结果来说也不能说错，但作为网络来说，毫无疑问的是：

1、YOLOv4的准确率要比YOLOv3高

2、同等输入尺寸下，YOLOv4的速度要比YOLOv3慢（你没有看错，是慢！）

3、使用320x320的输入尺寸，YOLOv4会更快（废话），但性能仍然比拟YOLOv3 416x416

但是今天我们不是来讨论算法本身的，关于算法性能，在论文里面，和其他帖子里面已经介绍很多了。我们今天关心的是，YOLOv4，作为性能更好更强的存在，在Jetson上到底能够跑多快。我们的工程师快速在TensorRT上完成了对YOLOv4的加速工作。

由于换成了更复杂的激活函数，估计某些用CPU算激活函数的平台又得是平角裤。

但是在Jetson平台上，由于CPU和GPU的平衡性较好，最终的性能还是相当不错的。

如下图所示，基本416x416尺寸的YOLOv4比同尺寸的YOLOv3会慢10%，但在Xavier GPU INT8条件下，仍然能够跑到71帧。在NX的INT8模式下，可以达到45帧。性能算是不错。

但如果用作者的320x320的输入尺寸呢？Xavier上INT8的速度直接上到了100，NX的速度也接近了70。这还没有换Backbone呢，后续可期！

相信很快YOLOv4的Backbone替换版本也会不断出现，要灌水来毕业的同学们，也可以再刷一波。YOLO再战一年…

参考链接：

[1]https://arxiv.org/abs/2004.10934

[2]https://github.com/AlexeyAB/darknet#pre-trained-models