计算机应用

作者：孙熠衡, 刘茂福

单位：1.武汉科技大学 计算机科学与技术学院，武汉 430065；2.智能信息处理与实时工业系统湖北省重点实验室（武汉科技大学），武汉 430065

关键词：生成式信息抽取,大语言模型,提示学习,LoRA微调,标书

基金：“十四五”湖北省高等学校优势特色学科（群）项目(2023D0302)

当前信息抽取任务主要依赖大语言模型（LLM），而标书信息中广泛存在领域术语，模型缺乏相关先验知识，导致微调效率低且抽取性能不佳。此外，模型的抽取和泛化性能在很大程度上依赖于提示信息的质量和提示模板的构建方式。针对上述问题，提出一种基于提示学习的标书信息抽取方法（TIEPL）。首先，利用生成式信息抽取的提示学习方法对LLM注入领域知识，以实现预训练和微调阶段的统一优化；其次，以LoRA（Low-Rank Adaption）微调方法为框架，单独设计提示训练旁路，并设计标书场景关键词提示模板，从而增强模型信息抽取与提示的双向关联。在自建的招中标数据集上的实验结果表明，相较于次优的UIE（Universal Information Extraction）方法，TIEPL的ROUGE-L（Recall-Oriented Understudy for Gisting Evaluation）和BLEU-4（BiLingual Evaluation Understudy）分别提高1.05和4.71个百分点，能更准确和完整地生成抽取结果，验证了所提方法在提高标书信息抽取准确性和泛化性方面的有效性。

来源：2025年第4期

《计算机应用》期刊编辑部

查看计算机应用杂志2025年第4期