融合实体类别信息的实体关系联合抽取

被引:43
作者
陈仁杰 [1 ,2 ]
郑小盈 [1 ,2 ]
祝永新 [1 ,2 ]
机构
[1] 中国科学院上海高等研究院
[2] 中国科学院大学
基金
国家重点研发计划; 上海市自然科学基金;
关键词
实体关系抽取; 联合抽取; 实体类别信息; 三元组重叠; 编码器; 解码器;
D O I
10.19678/j.issn.1000-3428.0060745
中图分类号
TP391.1 [文字信息处理];
学科分类号
120506 [数字人文];
摘要
针对实体关系抽取任务中的三元组重叠问题,基于编码器-解码器结构的联合抽取方法能够通过序列生成的方式加以解决。但现有方法没有充分利用实体类别信息,而实体类别信息对于构建更丰富的语义特征并进一步优化关系模型的效果具有重要意义。在使用编码器-解码器结构的基础上,融合实体类别信息构建实体关系联合抽取模型FETI。编码器采用经典Bi-LSTM结构,解码器采用树状解码替代传统的一维线性解码。同时,在解码阶段增加头尾实体类别的预测,并通过辅助损失函数进行约束,使模型能够更有效地利用实体类别信息。在百度公开的中文数据集DuIE上进行实验,结果表明,FETI的F1值达到0.758,相对于CopyMTL、WDec、MHS、Seq2UMTree模型提升了2.02%~9.86%,验证了融合实体类别信息对于提升实体关系抽取模型性能的有效性。此外,基于不同解码顺序和不同权重损失函数的实验结果表明,解码顺序对模型性能影响较大,而对主要任务的损失函数赋予较高权重,能够保证辅助任务为主要任务提供有效的背景知识,同时限制噪声的影响。
引用
收藏
页码:46 / 53
页数:8
相关论文
共 16 条
[1]
结合实体描述信息的跨句包关系抽取方法 [J].
孙新 ;
申长虹 ;
姜景虎 ;
崔家铭 .
计算机工程, 2021, 47 (06) :68-75
[2]
基于深度学习的中文实体关系抽取方法 [J].
孙紫阳 ;
顾君忠 ;
杨静 .
计算机工程, 2018, 44 (09) :164-170
[3]
Multi-Task Learning for Dense Prediction Tasks: A Survey..[J].Vandenhende Simon;Georgoulis Stamatios;Van Gansbeke Wouter;Proesmans Marc;Dai Dengxin;Van Gool Luc.IEEE transactions on pattern analysis and machine intelligence.2021,
[4]
CopyMTL: Copy Mechanism for Joint Extraction of Entities and Relations with Multi-Task Learning.[J].Daojian Zeng;Haoran Zhang;Qianying Liu.Proceedings of the AAAI Conference on Artificial Intelligence.2020, 05
[5]
Effective Modeling of Encoder-Decoder Architecture for Joint Entity and Relation Extraction.[J].Tapas Nayak;Hwee Tou Ng.Proceedings of the AAAI Conference on Artificial Intelligence.2020, 05
[6]
A Hierarchical Framework for Relation Extraction with Reinforcement Learning.[J].Ryuichi Takanobu;Tianyang Zhang;Jiexi Liu;Minlie Huang.Proceedings of the AAAI Conference on Artificial Intelligence.2019,
[7]
Joint Extraction of Entities and Overlapping Relations Using Position-Attentive Sequence Labeling.[J].Dai Dai;Xinyan Xiao;Yajuan Lyu;Shan Dou;Qiaoqiao She;Haifeng Wang.Proceedings of the AAAI Conference on Artificial Intelligence.2019,
[8]
Entity-Relation Extraction as Multi-Turn Question Answering..[J].Xiaoya Li;Fan Yin;Zijun Sun;Xiayu Li;Arianna Yuan;Duo Chai;Mingxin Zhou;Jiwei Li.CoRR.2019,
[9]
Joint entity recognition and relation extraction as a multi-head selection problem.[J].Giannis Bekoulis;Johannes Deleu;Thomas Demeester;Chris Develder.Expert Systems With Applications.2018,
[10]
Sequence Level Training with Recurrent Neural Networks..[J].Marc'Aurelio Ranzato;Sumit Chopra;Michael Auli;Wojciech Zaremba.CoRR.2015,