国内刊号:51-1307/TP
国际刊号:1001-9081
发布日期:
作者:罗萍, 丁玲, 杨雪, 向阳
单位:1.同济大学 电子与信息工程学院,上海 201804;2.软通动力信息技术(集团)有限公司,河北 廊坊 065000
关键词:信息抽取,中文事件检测,数据增强,弱监督学习,对抗训练
基金:国家自然科学基金资助项目(72071145)
当前的事件检测模型严重依赖于人工标注的数据,在标注数据规模有限的情况下,事件检测任务中基于完全监督方法的深度学习模型经常会出现过拟合的问题,而基于弱监督学习的使用自动标注数据代替耗时的人工标注数据的方法又常常依赖于复杂的预定义规则。为了解决上述问题,就中文事件检测任务提出了一种基于BERT的混合文本对抗训练(BMAD)方法。所提方法基于数据增强和对抗学习设定了弱监督学习场景,并采用跨度抽取模型来完成事件检测任务。首先,为改善数据不足的问题,采用回译、Mix-Text等数据增强方法来增强数据并为事件检测任务创建弱监督学习场景;然后,使用一种对抗训练机制进行噪声学习,力求最大限度地生成近似真实样本的生成样本,并最终提高整个模型的鲁棒性。在广泛使用的真实数据集自动文档抽取(ACE)2005上进行实验,结果表明相较于NPN、TLNN、HCBNN等算法,所提方法在F1分数上获取了至少0.84个百分点的提升。
来源:2022年第10期
《计算机应用》期刊编辑部