基于BERT嵌入BiLSTM-CRF模型的中文专业术语抽取研究

被引：57

作者：

吴俊 ^{[1
]}

程垚 ^{[1
]}

郝瀚 ^{[1
]}

艾力亚尔艾则孜 ^{[2
]}

刘菲雪 ^{[1
]}

苏亦坡 ^{[1
]}

机构：

[1] 北京邮电大学经济管理学院

[2] 深圳暴风智能科技有限公司

来源：

情报学报 | 2020年 / 39卷 / 04期

基金：

国家重点研发计划;

关键词：

BERT; BiLSTM; CRF; 专业术语抽取;

D O I：

暂无

中图分类号：

TP391.1 [文字信息处理]; TP18 [人工智能理论];

学科分类号：

081203 ; 0835 ; 081104 ; 0812 ; 1405 ;

摘要：

专业术语的识别与自动抽取对于提升专业信息检索精度,构建领域知识图谱发挥着重要基础性作用。为进一步提升中文专业术语识别的精确率和召回率,提出一种端到端的不依赖人工特征选择和领域知识,基于谷歌BERT预训练语言模型及中文预训练字嵌入向量,融合BiLSTM和CRF的中文专业术语抽取模型。以自建的1278条深度学习语料数据为实验对象,该模型对术语提取的F1值为92.96%,相对于传统的浅层机器学习模型(如左右熵与互信息算法、word2vec相似词算法等)和BiLSTM-CRF深度神经网络模型的性能有较为显著的提升。本文也给出了模型应用的具体流程,能够为中文专业术语库的构建提供实践指南。

引用

页码：409 / 418

页数：10

共 13 条

[1] 基于BERT嵌入的中文命名实体识别方法 [J].