计算机应用研究

作者：张宝奇,赵书良,张剑,吕晓锋,

单位：河北师范大学a.计算机与网络空间安全学院;b.供应链大数据分析与数据安全河北省工程研究中心;c.河北省网络与信息安全重点实验室,石家庄050024；

关键词：深度学习,机器学习,序列生成,协同训练,对抗学习,

基金：国家社会科学基金重大资助项目(13&ZD091,18ZDA200)；河北省重点研发计划项目(20370301D)；河北师范大学重大关键技术攻关项目(L2020K01)；；

离散序列生成广泛应用于文本生成、序列推荐等领域。目前的研究工作主要集中在提高序列生成的准确性，却忽略了生成的多样性。针对该现象，提出了一种自适应序列生成方法ECoT，设置两层元控制器，在数据层面，使用元控制器实现自适应可学习采样，自动平衡真实数据与生成数据分布得到混合数据分布；在模型层面，添加多样性约束项，并使用元控制器自适应学习最优更新梯度，提升生成模型生成多样性。此外，进一步提出融合协同训练和对抗学习的方法，提升生成模型生成准确性。与目前的主流模型进行对比实验，结果表明，在生成准确性和多样性上，自适应协同训练序列生成方法具有更均衡的准确性和多样性，同时有效缓解了生成模型的模式崩溃问题。

来源：2022年第7期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2022年第7期