计算机应用

作者：谢斌红, 钟日新, 潘理虎, 张英俊

单位：1. 太原科技大学 计算机科学与技术学院, 太原 030024;2. 中国科学院 地理科学与资源研究所, 北京 100101

关键词：卷积神经网络,模型压缩,网络剪枝,流合并,冗余

基金：山西省科技重大专项（20141101001）；山西省重点计划研发项目（201803D121048）。

深度卷积神经网络因规模庞大、计算复杂而限制了其在实时要求高和资源受限环境下的应用，因此有必要对卷积神经网络现有的结构进行优化压缩和加速。为了解决这一问题，提出了一种结合剪枝、流合并的混合压缩方法。该方法通过不同角度去压缩模型，进一步降低了参数冗余和结构冗余所带来的内存消耗和时间消耗。首先，从模型的内部将每层中冗余的参数剪去；然后，从模型的结构上将非必要的层与重要的层进行流合并；最后，通过重新训练来恢复模型的精度。在MNIST数据集上的实验结果表明，提出的混合压缩方法在不降低模型精度前提下，将LeNet-5压缩到原来的1/20，运行速度提升了8倍。

来源：2020年第3期

《计算机应用》期刊编辑部

查看计算机应用杂志2020年第3期