基于BERT模型的舆情分类应用研究

被引：11

作者：

胡春涛 ^{[1
]}

秦锦康 ^{[2
]}

陈静梅 ^{[1
]}

张亮 ^{[1
]}

机构：

[1] 江苏警官学院

[2] 中国人民公安大学

来源：

网络安全技术与应用 | 2019年 / 11期

关键词：

文本分类; BERT; 注意力机制; 词嵌入; 网络舆情;

D O I：

暂无

中图分类号：

TP391.1 [文字信息处理];

学科分类号：

081203 ; 0835 ;

摘要：

本文从技术发展的角度梳理了词向量技术的发展历史进而引出并介绍了目前对自然语言处理任务具有重大意义的BERT模型。在此基础上,本文对BERT预训练模型进行Fine-turning,使用简单的迁移学习策略将该模型应用于舆情文本分类任务,并设计实验与LSTM连接CNN的模型进行比较。实验结果表明BERT模型在字符向量动态编码和语言特征提取能力上相较于传统模型具有显著优势。

引用

页码：41 / 44

页数：4

共 9 条

[1] 基于注意力CNLSTM模型的新闻文本分类 [J].