计算机应用

作者：许仁杰, 刘宝弟, 张凯, 刘伟锋

单位：中国石油大学（华东） 海洋与空间信息学院，青岛 266580

关键词：贝叶斯分析,高斯随机过程,机器学习,元学习,小样本学习

基金：国家自然科学基金资助项目(61671480);中国石油天然气集团公司重大科技项目(ZD2019?183?008);模式识别国家实验室开放项目(202000009)

模型无关的元学习（MAML）是一种多任务的元学习算法，能使用不同的模型，并快速地在不同任务之间进行适应，但MAML在训练速度与准确率上还亟待提高。从高斯随机过程的角度出发对MAML的原理进行分析，提出一种基于贝叶斯权函数的模型无关元学习（BW-MAML）算法，该权函数利用贝叶斯分析设计并用于损失的加权。训练过程中，BW-MAML将每次抽样的任务视为遵循高斯分布，根据贝叶斯分析计算不同任务在分布中的概率，并根据任务在分布中的概率判断该任务重要程度，再以此赋以不同的权重，从而提高每次梯度下降中信息的利用率。在Omniglot与Mini-ImageNet数据集上的小样本图像学习实验结果表明，通过增加贝叶斯权函数，BW-MAML的训练效果在6任务训练2 500步后，在Mini-ImageNet上的准确率比MAML的准确率最高提高了1.9个百分点，并且最终准确率比MAML平均提升了0.907个百分点；在Omniglot上的准确率也平均提升了0.199个百分点。

来源：2022年第3期

《计算机应用》期刊编辑部

查看计算机应用杂志2022年第3期