计算机应用

作者：袁泉, 薛书鑫

单位：1.重庆邮电大学 通信与信息工程学院，重庆 400065；2.重庆邮电大学 通信新技术应用研究中心，重庆 400065

关键词：残差网络,远程监督,注意力机制,关系抽取,软阈值化

针对关系抽取中句子内部单词干扰产生的噪声问题，提出了一种基于软阈值模块的残差收缩网络的改进算法。首先，在残差网络的各个特征通道训练阈值，该阈值具备两个特点，一是其绝对值不能过大，过大将会剔除有效信息；二是该阈值对于不同的输入训练有不同的结果。然后，根据软阈值化的特性，将通道特征中小于阈值的部分删除，大于阈值的部分减小，相较于直接删除负面特性，软阈值可以保存负面特性中有用的信息。最后，额外加入注意力模块优化模型，该模块可以降低远程监督中错误标签问题对实验的影响。选取分段卷积神经网络（PCNN）、双向长短期记忆神经（BiLSTM）网络和普通残差网络（ResNet）作为基线模型进行对比实验，实验结果表明，所提模型的精确率??召回率曲线包含了基线模型的曲线，且F1值相较于基准模型分别提高了6.0个百分点、3.9个百分点和1.4个百分点，验证了加入软阈值化的网络模型可以通过减少句内噪声的方式提高关系抽取的准确性。

来源：2022年第10期

《计算机应用》期刊编辑部

查看计算机应用杂志2022年第10期