计算机应用研究

作者：卢健,马成贤,杨腾飞,周嫣然,

单位：西安工程大学电子信息学院,西安710048；

关键词：文本分类,卷积神经网络,循环神经网络,convolutionalrecurrentneuralnetwork,注意力机制,

基金：国家自然科学基金资助项目(51607133)；陕西省教育厅专项科学研究计划项目(17JK0332)；陕西省科技厅科技发展计划项目(2011K06-01)；西安市碑林区应用技术研发项目(GX1807)；；

迄今为止，传统机器学习方法依赖人工提取特征，复杂度高；深度学习网络本身特征表达能力强，但模型可解释性弱导致关键特征信息丢失。为此，以网络层次结合的方式设计了CRNN并引入attention机制，提出一种Text-CRNN+attention模型用于文本分类。首先利用CNN处理局部特征的位置不变性，提取高效局部特征信息；然后在RNN进行序列特征建模时引入attention机制对每一时刻输出序列信息进行自动加权，减少关键特征的丢失，最后完成时间和空间上的特征提取。实验结果表明，提出模型较其他模型准确率提升了2%~3%；在提取文本特征时，该模型既保证了数据的局部相关性又起到强化序列特征的有效组合能力。

来源：2020年第6期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2020年第6期