计算机应用

作者：郭文旭, 苏远歧, 刘跃虎

单位：1. 西安交通大学 电子与信息学部, 西安 710049;2. 西安交通大学 人工智能学院, 西安 710049

关键词：物体检测,神经网络压缩,计算加速,网络剪枝,网络量化,ZYNQ平台

基金：国家自然科学基金资助项目（61973245）。

高精度物体检测网络急剧增加的参数和计算量使得它们很难在车辆和无人机等端侧设备上直接部署使用。针对这一问题，从网络压缩和计算加速两方面入手，提出了一种面向残差网络的新型压缩方案来实现YOLOv3的压缩，并通过ZYNQ平台对这一压缩后的网络进行加速。首先，提出了包括网络裁剪和网络量化两方面的网络压缩算法。网络裁剪方面，给出了针对残差结构的裁剪策略来将网络剪枝分为通道剪枝和残差链剪枝两个粒度，解决了通道剪枝无法应对残差连接的局限性，进一步降低了模型的参数量；网络量化方面，实现了一种基于相对熵的模拟量化方法，以通道为单位对参数进行量化，在线统计模型的参数分布与参数量化造成的信息损失，从而辅助选择最优量化策略来减少量化过程的精度损失。然后，在ZYNQ平台上设计并改进了8比特的卷积加速模块，从而优化了片上缓存结构并结合Winograd算法实现了压缩后YOLOv3的加速。实验结果表明，所提压缩算法较YOLOv3 tiny能够进一步降低模型尺寸，但检测精度提升了7个百分点；同时ZYNQ平台上的硬件加速方法获得了比其他平台更高的能耗比，从而推进了YOLOv3以及其他残差网络在ZYNQ端侧的实际部署。

来源：2021年第3期

《计算机应用》期刊编辑部

查看计算机应用杂志2021年第3期