计算机应用

作者：罗俊, 陈黎飞

单位：1. 福建师范大学 数学与信息学院, 福州 350117;2. 数字福建环境监测物联网实验室(福建师范大学), 福州 350117

关键词：不完全数据,情感分类,BERT,栈式降噪自编码器,预训练模型

基金：福建省自然科学基金资助项目（2015J01238）；福建师范大学创新团队项目（IRTL1704）。

不完全数据，如社交平台的互动信息、互联网电影资料库中的影评内容，广泛存在于现实生活中。而现有情感分类模型大多建立在完整的数据集上，没有考虑不完整数据对分类性能的影响。针对上述问题提出基于BERT的栈式降噪神经网络模型，用于面向不完全数据的情感分类。该模型由栈式降噪自编码器（SDAE）和BERT两部分组成。首先将经词嵌入处理的不完全数据输入到SDAE中进行去噪训练，以提取深层特征来重构缺失词和错误词的特征表示；接着将所得输出传入BERT预训练模型中进行精化以进一步改进词的特征向量表示。在两个常用的情感数据集上的实验结果表明，所提方法在不完全数据情感分类中的F1值和准确率分别提高了约6%和5%，验证了所提模型的有效性。

来源：2021年第1期

《计算机应用》期刊编辑部

查看计算机应用杂志2021年第1期