国内刊号:51-1196/TP
国际刊号:1001-3695
发布日期:
作者:陈亮,褚燕华,王丽颖,张晓琳,刘海佳,
单位:内蒙古科技大学信息工程学院,内蒙古包头014010;
关键词:机器阅读理解,BERT,对话问答,双向门控循环单元,
基金:国家自然科学基金资助项目(61562065);;
基于现有模型不能有效处理多轮对话历史的不足,提出了CoBERT-BiGRU(concat bidirectional encoder representation from transformers -bidirectional gate recurrent unit)模型。对文章中的对话历史进行标记,将不同标记的文章及问题输入CoBERT模型,得到多个序列的向量化表示;通过历史注意力网络把多个结果融合成一个序列的向量化表示;将融合后的结果输入BiGRU,对答案及对话行为进行推理预测。真实数据集上的实验结果表明,CoBERT-BiGRU模型能够有效处理多轮对话历史,与基准模型和在该数据集上已公开的部分模型相比,HEQ-Q、HEQ-D和F1值都有提升。
来源:2021年第7期
《计算机应用研究》期刊编辑部