基于密集连接卷积神经网络的远程监督关系抽取

被引：17

作者：

钱小梅 ^{[1
]}

刘嘉勇 ^{[1
]}

程芃森 ^{[1
,2
]}

机构：

[1] 四川大学网络空间安全学院

[2] 中国科学院信息工程研究所中国科学院网络测评技术重点实验室

来源：

计算机科学 | 2020年 / 47卷 / 02期

关键词：

深度学习; 关系抽取; 远程监督; 卷积神经网络; 密集连接;

D O I：

暂无

中图分类号：

TP391.1 [文字信息处理]; TP183 [人工神经网络与计算];

学科分类号：

120506 [数字人文]; 140502 [人工智能];

摘要：

密集连接卷积神经网络(DenseNet)是一种新型深度卷积神经网络架构,通过建立不同层间的连接关系,来确保网络层与层间最大程度的信息传输。在文本远程监督关系抽取任务中,针对现有神经网络方法使用浅层网络提取特征的局限,设计了一种基于密集连接方式的深度卷积神经网络模型。该模型采用五层卷积神经网络构成的密集连接模块和最大池化层作为句子编码器,通过合并不同层次的词法、句法和语义特征,来帮助网络学习特征,从而获取输入语句更丰富的语义信息,同时减轻深度神经网络的梯度消失现象,使得网络对自然语言的表征能力更强。模型在NYT-Freebase数据集上的平均准确率达到了82.5%,PR曲线面积达到了0.43。实验结果表明,该模型能够有效利用特征,并提高远程监督关系抽取的准确率。

引用

页码：157 / 162

页数：6