计算机应用研究

作者：姜克鑫,赵亚慧,崔荣一,

单位：延边大学智能信息处理研究室,吉林延吉133002；

关键词：自然语言句子匹配,双向注意力机制,自注意力机制,卷积神经网络,

基金：国家语委“十三五”科研项目(YB135-76)；延边大学外国语言文学一流学科建设资助项目(18YLPY13)；；

针对目前自然语言句子匹配方法未能融合公共语义信息以及难以捕获深层次语义信息的问题，提出了一种融合高低层语义信息的自然语言句子匹配算法。该算法首先采用预训练词向量GloVe和字符级别的词向量获取句子P和句子Q的词嵌入表示；其次，使用双向LSTM（long-short term memory）对P和Q进行编码，再初步融合P和Q获取低层语义信息；然后，计算P与Q的双向注意力，拼接得到语义表征，再计算其自注意力获取高层语义信息；最后，采用启发式的融合函数将低层语义信息和高层语义信息进行融合，得到最终的语义表征，使用卷积神经网络预测得到答案。在文本蕴涵识别和释义识别两个任务上评估了该模型。在文本蕴涵识别任务SNLI数据集和释义识别任务Quora数据集上进行了实验，实验结果表明该算法在SNLI测试集上的准确率为87.1%，在Quora测试集上的准确率为86.8%，验证了算法在自然语言句子匹配任务上的有效性。

来源：2022年第4期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2022年第4期