计算机应用研究

作者：李铮,陈莉,张爽,

单位：西北大学信息科学与技术学院,西安710127；

关键词：情感分析,词向量,ELMo,自注意力机制,

基金：国家重点研发资助项目(2020YFC1523301)；陕西省重点研发计划资助项目(2019ZDLGY10-01)；；

目前情感分析模型通常使用word2vec、GloVe等方法生成静态词向量，并且传统的卷积或循环深度模型无法完整地关注上下文，提取特征不充分，影响情感判断。针对上述问题，提出基于ELMo（embedding from language model）和双向自注意力网络（bidirectional self-attention network，Bi-SAN）的中文文本情感分析模型。首先通过ELMo语言模型训练得到融合词语本身和上下文信息的词向量，解决了一词多义的问题；同时使用预训练的skip-gram算法代替随机初始化的ELMo模型的嵌入层，提高模型的收敛速度；之后使用Bi-SAN提取特征，由于自注意力机制，Bi-SAN可以完整地关注每个词的上下文，提取特征更为全面。同现有的多个情感分析模型对比，该模型在酒店评论数据集上和NLPCC2014 task2中文数据集取得了更高的F1值，验证了模型的有效性。

来源：2021年第8期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2021年第8期