基于改进BERT-BiGRU模型的文本情感分类研究
2023年电子技术应用第2期
李芸1，2，潘雅丽1，肖冬1
1.杭州电子科技大学 电子信息学院，浙江 杭州 310018；2.浙江省装备电子研究重点实验室，浙江 杭州 310018
摘要： 针对目前网络评论文本情感分类准确性不高的问题，提出一种基于BERT和双向门控循环单元（BiGRU）的改进模型，使用能够表征文本丰富语义特征的BERT模型进行词向量表示，结合能够长期保留文本上下文关联信息的BiGRU神经网络提高模型的分类效果，并在此基础上引入注意力机制，突出文本中更能表达分类结果的情感词权重，提高情感分类的准确率。将上述模型分别在Acllmdb_v1和酒店评论两个公开数据集上进行测试，实验结果表明，该模型在中、英文文本情感分类任务中都获得了良好的性能。
中图分类号：TP391.1
文献标志码：A
DOI: 10.16157/j.issn.0258-7998.223108
中文引用格式： 李芸，潘雅丽，肖冬. 基于改进BERT-BiGRU模型的文本情感分类研究[J]. 电子技术应用，2023，49(2)：9-14.
英文引用格式： Li Yun，Pan Yali，Xiao Dong. Research on text emotion classification based on improved BERT-BiGRU model[J]. Application of Electronic Technique，2023，49(2)：9-14.
文献标志码：A
DOI: 10.16157/j.issn.0258-7998.223108
中文引用格式： 李芸，潘雅丽，肖冬. 基于改进BERT-BiGRU模型的文本情感分类研究[J]. 电子技术应用，2023，49(2)：9-14.
英文引用格式： Li Yun，Pan Yali，Xiao Dong. Research on text emotion classification based on improved BERT-BiGRU model[J]. Application of Electronic Technique，2023，49(2)：9-14.
Research on text emotion classification based on improved BERT-BiGRU model
Li Yun1，2，Pan Yali1，Xiao Dong1
1.School of Electronics Information， Hangzhou Dianzi University， Hangzhou 310018， China； 2.Zhejiang Provincial Key Laboratory of Equipment Electronics， Hangzhou 310018， China
Abstract： Aiming at the problem that the accuracy of text emotion classification of online comment is not high, an improved model based on BERT and bidirectional gated recurrent unit (BiGRU) is proposed. The word vector representation is carried out by using the BERT model which can represent the rich semantic features of the text. The classification effect of the model is improved by combining the BiGRU neural network which can retain the text context related information for a long time. On this basis, the attention mechanism is introduced, to highlight the weight of emotional words which can better express the classification results in the text, and improve the accuracy of emotional classification. The above model was tested on Acllmdb_v1 data set and hotel reviews data set, which are public data set. The experimental results show that the model achieves good performance in both Chinese and English text emotion classification tasks.
Key words : text emotion classification；BERT；BiGRU；attention mechanism
0 引言
文本情感分类[1]是自然语言处理(Natural Language Processing, NLP)的一个重要任务。随着互联网的飞速发展，人们不仅能够从网上获取信息，还能通过各种平台随心所欲地发表包含自己主观情绪的观点和看法，例如网络购物、微博评论等。对含有丰富情感信息的文本数据进行分析具有非常重要的现实意义，它被广泛应用于产品推荐、搜索排名等领域。但由于一些平台字符长度有限，而且用户表达较随意，存在用词不规范和词语拼写错误等问题，传统的情感分类方法在许多方面表现效果差强人意，实现高效准确的自动文本情感分类方法是本文的主要研究内容。
本文详细内容请下载：http://www.chinaaet.com/resource/share/2000005161。
作者信息：
李芸1，2，潘雅丽1，肖冬1
（1.杭州电子科技大学 电子信息学院，浙江 杭州 310018；2.浙江省装备电子研究重点实验室，浙江 杭州 310018）
此内容为AET网站原创，未经授权禁止转载。