计算机应用研究

作者：吴婧,杨百龙,田罗庚,

单位：1.火箭军工程大学信息与通信工程系,西安710000；2.国防科技大学信息通信学院,西安710000；

关键词：神经机器翻译,关系提取,无监督,注意力迁移,BERT预训练,

针对互联网上日渐丰富的多语言文本和匮乏大规模标注平行语料库的问题，为了从多语言的信息源挖掘语言间的关联性与扩展知识图谱，提出了基于注意力迁移的跨语言关系提取方法。首先针对语言间的实际平行语料情况，分类进行跨语言平行语料映射，并针对缺乏种子词典的低资源语言对，提出神经网络翻译模型获取目标语言数据集并保存多语言间的对应注意力权重关系，然后利用BERT端对端的联合抽取模型抽取训练数据实体关系特征，反向迁移语言间注意力权重关系，最后利用反向迁移的注意力进行增强的关系抽取。实验表明，该模型的关系提取效果相比其他模型在准确率和回归上都有所提升，在缺乏双语词典情况下也表现出较好的性能。

来源：2022年第2期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2022年第2期