计算机应用

作者：樊琦, 李卓, 陈昕

单位：1.网络文化与数字传播北京市重点实验室（北京信息科技大学），北京 100101；2.北京信息科技大学 计算机学院，北京 100101

关键词：边缘计算,分支神经网络,深度神经网络,推断延迟,部署问题

基金：国家自然科学基金资助项目(61502040);北京市属高校高水平教师队伍建设支持计划青年拔尖人才培育计划资助项目(CIT&TCD201804055);北京信息科技大学“勤信人才”培养计划资助项目;网络文化与数字传播北京市重点实验室开放课题资助项目(ICDDXN001)

针对云服务器上深度神经网络（DNN）模型推断任务延迟过高的问题，提出基于边缘计算的分支神经网络部署模型。分析了边缘计算场景中深度神经网络的分布式部署问题，证明该问题是NP-难的。设计了一种基于分支定界思想的部署算法（DBB），选择合适的边缘计算节点部署模型以减少推断任务的延迟。设计并实现了选择节点退出（SNE）算法，为不同任务选择合适的边缘计算节点来退出推断任务。仿真实验结果表明，与在云端部署神经网络模型的方法相比，基于边缘计算的分支神经网络模型的推断延迟平均降低了36%。

来源：2020年第2期

《计算机应用》期刊编辑部

查看计算机应用杂志2020年第2期