基于GLU-CNN和Attention-BiLSTM的神经网络情感倾向性分析

被引:15
作者
孙承爱
丁宇
田刚
机构
[1] 山东科技大学计算机科学与工程学院
关键词
Attention; BiLSTM; GLU; CNN; 情感分析;
D O I
暂无
中图分类号
TP391.1 [文字信息处理]; TP183 [人工神经网络与计算];
学科分类号
120506 [数字人文]; 140502 [人工智能];
摘要
情感分析是自然语言处理领域(NLP)中重要的语义处理任务,目前处理NLP任务的两大主流模型是卷积神经网络(CNN)和循环神经网络(RNN)以及他们的变体。由于自然语言在结构上存在依赖关系,且重要信息可能出现在句子的任何位置。RNN可能会忽略为了解决这些问题,我们提出了一种新的模型ABGC,将Attention机制加入到BiLSTM中,可以更好捕获句子中最重要的局部信息,同时融合添加GLU(非线性单元)的卷积神经网络(CNN),可以更好捕捉文本的全局信息,然后将两种模型提取到的特征融合,既有效避免了LSTM的梯度消失问题,又解决了CNN忽略上下文语义的问题。我们在两种数据集上进行对比实验,实验结果表明ABGC模型可以有效提高文本分类准确率,同时减少运行时间。
引用
收藏
页码:62 / 66
页数:5
相关论文
共 4 条
[1]
基于CNN和BiLSTM网络特征融合的文本情感分析 [J].
李洋 ;
董红斌 .
计算机应用, 2018, 38 (11) :3075-3080
[2]
Improving sentiment analysis via sentence type classification using BiLSTM-CRF and CNN.[J].Tao Chen;Ruifeng Xu;Yulan He;Xuan Wang.Expert Systems With Applications.2017,
[3]
A machine learning approach to sentiment analysis in multilingual Web texts [J].
Boiy, Erik ;
Moens, Marie-Francine .
INFORMATION RETRIEVAL, 2009, 12 (05) :526-558
[4]
Learning to forget: Continual prediction with LSTM [J].
Gers, FA ;
Schmidhuber, J ;
Cummins, F .
NEURAL COMPUTATION, 2000, 12 (10) :2451-2471