国内刊号:51-1307/TP
国际刊号:1001-9081
发布日期:
作者:赵红燕, 郭力华, 刘春霞, 王日云
单位:太原科技大学 计算机科学与技术学院,太原 030024
关键词:科学文献摘要,抽取式摘要,图神经网络,超图注意网络,图对比学习
长文档摘要生成面临句间关系的捕捉、长距离依赖及文档信息的高效编码与提取等难题,一直是自然语言处理领域的一个难点任务。同时,科学文献通常包含多个章节和段落,具有复杂的层次结构,使科学文献的摘要生成任务更具挑战性。针对以上问题,提出一种基于多图神经网络(GNN)和图对比学习(GCL)的科学文献摘要模型(MGCSum)。首先,对于输入的文档,通过同构GNN和异构GNN分别建模句内与句间关系,以生成初始句子表示;其次,将这些句子表示馈送到一个多头超图注意网络(HGAT),并在其中利用自注意机制充分捕捉节点和边之间的关系,从而进一步更新和学习句间的表示;再次,引入GCL模块增强全局主题感知,从而提升句子表示的语义一致性和区分度;最后,采用多层感知器(MLP)和归一化层计算一个得分,用于判断句子是否应被选为摘要。在PubMed和ArXiv数据集上的实验结果表明,MGCSum模型的表现优于多数基线模型。具体地,在PubMed数据集上,MGCSum模型的ROUGE-1、ROUGE-2和ROUGE-L分别达到了48.97%、23.15%和44.09%,相比现有的先进模型HAESum (Hierarchical Attention graph for Extractive document Summarization)分别提高了0.20、0.71和0.26个百分点。可见,通过结合多GNN和GCL,MGCSum模型能够更有效地捕捉文献的层次结构信息和句间关系,提升了摘要生成的准确性和语义一致性,展现了它在科学文献摘要生成任务中的优势。
来源:2025年第12期
《计算机应用》期刊编辑部