国内刊号:51-1196/TP
国际刊号:1001-3695
发布日期:
作者:袁坤,张秀华,溥江,杨静,李斌,李少波,
单位:1.贵州大学a.机械工程学院;b.省部共建公共大数据国家重点实验室,贵阳550025;2.贵州民族大学物理与机电工程学院,贵阳550025;
关键词:持续学习,灾难性遗忘,正则化策略,重放策略,动态架构策略,
基金:国家重点研发计划资助项目(2018AAA0101800);国家自然科学基金资助项目(62166005);教育部重点实验室开放项目(黔教合KY字[2020]245;黔教合KY字[2020]248);贵州省高层次留学人才项目(高层次人才择优资助项目202109号);贵州省自然科学基金资助项目(黔科合基础-ZK[2022]一般130);;
持续学习作为一种在非平稳数据流中不断学习新任务并能保持旧任务性能的特殊机器学习范例,是视觉计算、自主机器人等领域的研究热点,但现阶段灾难性遗忘问题仍然是持续学习的一个巨大挑战。围绕持续学习灾难性遗忘问题展开综述研究,分析了灾难性遗忘问题缓解机理,并从模型参数、训练数据和网络架构三个层面探讨了灾难性遗忘问题求解策略,包括正则化策略、重放策略、动态架构策略和联合策略;根据现有文献凝练了灾难性遗忘方法的评估指标,并对比了不同灾难性遗忘问题的求解策略性能。最后对持续学习相关研究指出了未来的研究方向,以期为研究持续学习灾难性遗忘问题提供借鉴和参考。
来源:2023年第5期
《计算机应用研究》期刊编辑部