国内刊号:51-1307/TP
国际刊号:1001-9081
发布日期:
作者:张心怡, 冯仕民, 丁恩杰
单位:1. 矿山互联网应用技术国家地方联合工程实验室(中国矿业大学), 江苏 徐州 221008;2. 中国矿业大学 信息与控制工程学院, 江苏 徐州 221008;3. 中国矿业大学 物联网(感知矿山)研究中心, 江苏 徐州 221008
关键词:命名实体识别,关系抽取,联合学习,注意力机制,词向量
基金:国家重点研发计划项目(2017YFC0804401)。
针对煤矿领域知识抽取中存在的术语嵌套、一词多义,抽取任务间存在误差传播等问题,提出了一种深层注意力模型框架。首先,使用标注策略联合学习两项知识抽取子任务,以解决误差传播的问题;其次,提出结合多种词向量信息的投影方法,以缓解煤矿领域术语抽取中的一词多义的问题;然后,设计深度特征提取网络,并提出深层注意力模型及两种模型增强方案来充分提取语义信息;最后,对模型的分类层进行研究,以在保证抽取效果的前提下最大限度地简化模型。实验结果表明,在煤矿领域语料上,相较于编码-解码结构的最好模型,所提模型的F1值有了1.5个百分点的提升,同时模型训练速度几乎提高至原来的3倍。该模型可有效地完成煤矿领域术语抽取以及术语关系抽取这两项知识抽取子任务。
来源:2020年第8期
《计算机应用》期刊编辑部