国内刊号:51-1307/TP
国际刊号:1001-9081
发布日期:
作者:赵永柱, 黎卫东, 唐斌, 梅峰, 卢文达
单位:1. 国网陕西省电力公司信息通信公司,西安 710065;2. 计算机软件新技术国家重点实验室(南京大学),南京 210023;3. 国网浙江省电力有限公司,杭州 310007
关键词:分布式计算,矩阵相乘,落后节点,凸优化,期限感知
基金:国家自然科学基金资助项目(61832005);国家电网公司科技项目(52110418001M)
分布式矩阵相乘是众多分布式机器学习、科学计算等应用中的关键操作,但其性能会受到系统中常见的落后节点的严重影响。最近研究者提出了基于喷泉码的编码矩阵相乘方法,能够充分利用落后节点的部分计算结果,从而大幅度减轻落后节点问题,但忽略了工作节点的存储开销。在考虑存储开销与计算完成时间之间的权衡关系的基础上,首先提出了面向异构工作节点的计算期限感知的存储优化问题;然后进一步通过理论分析,提出了基于期望近似的解决思路,并通过松弛将问题转化为凸优化问题以方便高效求解。仿真实验表明,在保证较大的任务成功率的情况下,所提方案的存储开销会随着任务期限的放宽迅速下降,并且该方案能够更大幅度降低编码带来的存储开销。也就是说,所提方案能够在保障整体计算在期限内大概率完成的前提下,大幅度降低总体的额外存储负载。
来源:2020年第2期
《计算机应用》期刊编辑部