计算机应用

作者：张东伟, 叶正, 葛君

单位：1.信息物理融合智能计算国家民委重点实验室（中南民族大学），武汉 430074；2.教育部民族语言智能分析与安全治理重点实验室（中央民族大学），北京 100081；3.武汉纺织大学 外经贸学院，武汉 430202

关键词：文本匹配,鲁棒性,元权重,协方差矩阵,样本重加权

基金：中南民族大学基础研究基金资助项目(CZZ24009);中南民族大学人才引进计划基金资助项目(YZZ20001);中南民族大学学术创新团队及研究平台项目(XTZ24003);中南民族大学学术创新团队及研究平台项目(PTZ24001)

在文本匹配任务中，文本数据的复杂性与多样性使训练时常暴露出鲁棒性欠佳的问题。传统的解决文本鲁棒性不足的手段，诸如数据增强和正则化等，虽能发挥一定作用，但这些方法大多仅适用于特定类型的噪声或扰动，并且对计算资源的需求较高。因此，提出一种基于元权重网络（MW-net）的方法——协方差矩阵改进的元权重网络（CovMW-net）。首先，通过自适应学习调整权重参数与损失函数，从而迅速实现较合理的权重分配。其次，借助对样本权重的调控，放大或缩小样本在训练过程中对训练效果的影响，最终实现提升训练鲁棒性的目的。CovMW-net继承MW-net的元学习框架，进而节约计算资源。同时，它融合协方差矩阵，针对每个类别的样本开展深度特征提取，计算这些特征的协方差矩阵，并以此度量少数类数据，进而削减MW-net因为元数据集随机取样而产生长尾分布所造成的负面影响。在Clothing1M数据集上的实验结果表明，CovMW-net在准确率上超过原始方法MW-net 0.86个百分点，并优于所有对比方法。此外，在大规模中文问题匹配语料库（LCQMC）和百度问答匹配数据集（BQ）上CovMW-net的准确率相较于baseline提升大多在4~6个百分点。可见，CovMW-net在处理元数据集存在偏差时具备有效性，且应用于文本匹配鲁棒性研究时具有可行性。

来源：2025年第12期

《计算机应用》期刊编辑部

查看计算机应用杂志2025年第12期