计算机应用

北大核心,INSPEC,JST,Pж(AJ),CSCD扩展版

国内刊号:51-1307/TP

国际刊号:1001-9081

计算机应用杂志2019年第10期:基于知识蒸馏的超分辨率卷积神经网络压缩方法

发布日期:

作者:高钦泉, 赵岩, 李根, 童同

单位:1. 福州大学 物理与信息工程学院, 福州 350108;2. 福建省医疗器械与医药技术重点实验室(福州大学), 福州 350108;3. 福建帝视信息科技有限公司, 福州 350001

关键词:超分辨率,知识蒸馏,卷积神经网络压缩,教师网络,学生网络

基金:国家自然科学基金资助项目(61802065)。

针对目前用于超分辨率图像重建的深度学习网络模型结构深且计算复杂度高,以及存储网络模型所需空间大,进而导致其无法在资源受限的设备上有效运行的问题,提出一种基于知识蒸馏的超分辨率卷积神经网络的压缩方法。该方法使用一个参数多、重建效果好的教师网络和一个参数少、重建效果较差的学生网络。首先训练好教师网络,然后使用知识蒸馏的方法将知识从教师网络转移到学生网络,最后在不改变学生网络的网络结构及参数量的前提下提升学生网络的重建效果。实验使用峰值信噪比(PSNR)评估重建质量的结果,使用知识蒸馏方法的学生网络与不使用知识蒸馏方法的学生网络相比,在放大倍数为3时,在4个公开测试集上的PSNR提升量分别为0.53 dB、0.37 dB、0.24 dB和0.45 dB。在不改变学生网络结构的前提下,所提方法显著地改善了学生网络的超分辨率重建效果。

来源:2019年第10期

《计算机应用》期刊编辑部

查看计算机应用杂志2019年第10期

联系我们

  • 地址:四川天府新区兴隆街道科智路1369号
  • 电话:028-85224283-803
  • E-mail:bjb@joca.cn

咨询工作人员