基于注意力机制的农业文本命名实体识别

被引：70

作者：

赵鹏飞 ^{[1
]}

赵春江 ^{[1
,2
]}

吴华瑞 ^{[2
,3
]}

王维 ^{[2
,3
]}

机构：

[1] 山西农业大学工学院

[2] 国家农业信息化工程技术研究中心

[3] 北京农业信息技术研究中心

来源：

农业机械学报 | 2021年 / 52卷 / 01期

基金：

国家重点研发计划;

关键词：

农业文本; 命名实体识别; 注意力机制; 神经网络; 深度学习;

D O I：

暂无

中图分类号：

TP391.1 [文字信息处理]; TP18 [人工智能理论]; S126 [电子技术、计算机技术在农业上的应用];

学科分类号：

082806 [农业信息与电气工程]; 120506 [数字人文]; 140502 [人工智能];

摘要：

针对农业智能问答系统构建过程中传统的农业命名实体识别方法依赖人工特征模板、特征信息提取不充分、实体名称多样导致标注不一致等问题,提出一种基于注意力机制的农业文本命名实体识别方法。采用连续词袋模型(Continuous bag of words,CBOW)对输入字向量进行预训练,丰富字向量特征信息,缓解分词准确度对性能的影响;引入文档级的注意力(Attention)机制获取实体间相似信息,保证实体在不同语境下的标签一致性;基于双向长短期记忆网络(Bi-directional long-short term memory,BiLSTM)和条件随机场(Conditional random field,CRF)模型构建适合农业领域实体识别的模型框架。选取4 604篇农业文本,针对病害、虫害、农药、农作物品种4类实体进行了识别实验。结果表明,模型能有效地辨别农业文本中的实体,缓解实体标记不一致的问题,在农业语料上达到了较好的结果,识别的准确率、召回率、F值分别为93.48%、90.60%、92.01%。与其他3种识别方法相比,模型在不同规模语料库的准确率均有一定提高具有明显的性能优势。

引用

页码：185 / 192

页数：8

共 12 条

[1]

A Comparison of Word Embeddings for the Biomedical Natural Language Processing.[J].Yanshan Wang;Sijia Liu;Naveed Afzal;Majid Rastegar-Mojarad;Liwei Wang;Feichen Shen;Paul Kingsbury;Hongfang Liu.Journal of Biomedical Informatics.2018,

[2]

Disease named entity recognition from biomedical literature using a novel convolutional neural network.[J].Zhehuan Zhao;Zhihao Yang;Ling Luo;Lei Wang;Yin Zhang;Hongfei Lin;Jian Wang.BMC Medical Genomics.2017, 5

[3]

Character-level neural network for biomedical named entity recognition.[J].Mourad Gridach.Journal of Biomedical Informatics.2017,

[4]

基于语义分割的食品标签文本检测 [J].