基于BERT-BiLSTM-CRF模型的中文实体识别

被引：279

作者：

谢腾

杨俊安

刘辉

机构：

[1] 国防科技大学电子对抗学院

来源：

计算机系统应用 | 2020年 / 29卷 / 07期

基金：

安徽省自然科学基金;

关键词：

命名实体识别; BERT模型; 双向长短期记忆网络; 条件随机场; 词向量;

D O I：

10.15888/j.cnki.csa.007525

中图分类号：

TP391.1 [文字信息处理]; TP18 [人工智能理论];

学科分类号：

120506 [数字人文]; 140502 [人工智能];

摘要：

命名实体识别是自然语言处理的一项关键技术.基于深度学习的方法已被广泛应用到中文实体识别研究中.大多数深度学习模型的预处理主要注重词和字符的特征抽取,却忽略词上下文的语义信息,使其无法表征一词多义,因而实体识别性能有待进一步提高.为解决该问题,本文提出了一种基于BERT-BiLSTM-CRF模型的研究方法.首先通过BERT模型预处理生成基于上下文信息的词向量,其次将训练出来的词向量输入BiLSTM-CRF模型做进一步训练处理.实验结果表明,该模型在MSRA语料和人民日报语料库上都达到相当不错的结果, F1值分别为94.65%和95.67%.

引用

页码：48 / 55

页数：8

共 12 条

[1]

基于BERT-IDCNN-CRF的中文命名实体识别方法 [J].