学术探索
学术期刊
文章热点
数据分析
智能智评

采用自注意力机制和CNN融合的实体关系抽取

被引：15
作者：
闫雄
段跃兴
张泽华
机构：
[1] 太原理工大学信息与计算机学院
来源：
计算机工程与科学 | 2020年 / 42卷 / 11期
关键词：
实体关系抽取; 自注意力机制; 卷积神经网络; 词向量; 上下文语义;
D O I：
暂无
中图分类号：
TP391.1 [文字信息处理]; TP183 [人工神经网络与计算];
学科分类号：
摘要：
目前在实体关系抽取任务中,神经网络模型发挥着重要的作用,利用卷积神经网络可以自动提取特征,但是在卷积神经网络中利用固定窗口大小的卷积核来提取句子中词的上下文语义信息受到限制。因此,提出一种新的采用自注意力和卷积神经网络融合的关系抽取模型。利用原始的词向量通过自注意力机制计算得到序列中词之间的相互关系,使得输入的词向量表达出更加丰富的语义信息,从而弥补卷积神经网络自动提取特征的不足。在SemEval-2010 Task 8数据集上的实验结果表明,加入自注意力机制以后,本文模型有利于提升实体关系抽取效果。
引用
收藏
页码：2059 / 2066
页数：8
相关论文
共 10 条
  • [1] 中文实体关系抽取研究综述附视频
    武文雅
    陈钰枫
    徐金安
    张玉洁
    [J]. 计算机与现代化, 2018, (08) : 21 - 27+34
  • [2] 基于深度学习框架的实体关系抽取研究进展
    李枫林
    柯佳
    [J]. 情报科学, 2018, (03) : 169 - 176
  • [3] 知识图谱发展与构建的研究进展
    朱木易洁
    鲍秉坤
    徐常胜
    [J]. 南京信息工程大学学报(自然科学版), 2017, 9 (06) : 575 - 582
  • [4] 基于卷积神经网络和关键词策略的实体关系抽取方法
    王林玉
    王莉
    郑婷一
    [J]. 模式识别与人工智能, 2017, 30 (05) : 465 - 472
  • [5] 知识图谱研究进展
    漆桂林
    高桓
    吴天星
    [J]. 情报工程, 2017, 3 (01) : 4 - 25
  • [6] 实体关系抽取研究综述
    刘绍毓
    李弼程
    郭志刚
    王波
    陈刚
    [J]. 信息工程大学学报, 2016, 17 (05) : 541 - 547
  • [7] 基于多通道卷积神经网的实体关系抽取
    肜博辉
    付琨
    黄宇
    王洋
    [J]. 计算机应用研究, 2017, 34 (03) : 689 - 692
  • [8] Deep semantic role labeling with self-attention .2 Tan Z,Wang M,Xie J,et al. Proc of the 32nd AAAI Conference on Artificial Intelligence . 2018
  • [9] Classifying relations by ranking with convolutional neural networks .2 dos Santos C,Xiang B,Zhou B W. Proc of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing . 2015
  • [10] Relation Classification via Convolutional Deep Neural Network .2 Zeng D,Liu K,Lai S,et al. International conference on computational linguistics . 2014
1