基于字符级循环网络的查询意图识别模型

被引：4

作者：

孟奎 ^{[1
]}

刘梦赤 ^{[1
]}

胡婕 ^{[2
]}

机构：

[1] 武汉大学计算机学院

[2] 湖北大学计算机与信息工程学院

来源：

计算机工程 | 2017年 / 43卷 / 03期

关键词：

查询意图; 字符级; 循环神经网络; 记忆网络; 词向量;

D O I：

暂无

中图分类号：

TP391.3 [检索机];

学科分类号：

摘要：

以特征模板为主的查询意图识别方法存在人工抽取特征繁琐,并且难以捕捉文本语义信息的问题。为此,基于字符级循环网络,提出一种新的查询意图识别模型。为能有效提取句子深层次语义特征,减少长距离信息依赖的限制,使用长短时记忆网络(LSTM)作为神经网络线性变换层,同时增加一层反向LSTM抽取字符的将来信息特征。使用原始汉字直接作为模型的输入,避免分词结果不准确带来的错误传导问题,利用字符的分布向量表示方法,提高句子语义特征的获取。实验结果表明,该方法整体准确率达到90.7%,相比特征模板方法有所提升,能提高用户查询意图的分类性能。

引用

页码：181 / 186

页数：6

共 8 条

[1] 深度学习的昨天、今天和明天 [J].

余凯 ;

贾磊 ;

陈雨强 ;

徐伟 .

计算机研究与发展, 2013, 50 (09) :1799-1804

[2] 用户查询意图切分的研究 [J].

江雪 ;

孙乐 .

计算机学报, 2013, 36 (03) :664-670

[3] 融合多类特征的Web查询意图识别 [J].

伍大勇 ;

赵世奇 ;

刘挺 ;

张宇 .

模式识别与人工智能, 2012, 25 (03) :500-505

[4] A survey on the application of recurrent neural networks to statistical language modeling [J].

De Mulder, Wim ;

Bethard, Steven ;

Moens, Marie-Francine .

COMPUTER SPEECH AND LANGUAGE, 2015, 30 (01) :61-98

[5] A fast learning algorithm for deep belief nets [J].

Hinton, Geoffrey E. ;

Osindero, Simon ;

Teh, Yee-Whye .

NEURAL COMPUTATION, 2006, 18 (07) :1527-1554

[6]

Framewise phoneme classification with bidirectional LSTM and other neural network architectures[J] . Alex Graves,Jürgen Schmidhuber.Neural Networks . 2005 (5)

[7]

A taxonomy of web search[J] . Andrei Broder.ACM SIGIR Forum . 2002 (2)

[8] Long short-term memory [J].

Hochreiter, S ;

Schmidhuber, J .

NEURAL COMPUTATION, 1997, 9 (08) :1735-1780

← 1 →