计算机应用研究

作者：王粲,夏元清,邹伟东,

单位：北京理工大学自动化学院,北京100081；

关键词：机器学习,极限学习机,梯度下降,模型优化,数据分类,泛化性能,鲁棒性,

基金：国家重点研发计划资助项目(2018YFB1700400)；国家自然科学基金资助项目(61906015,61836001)；；

针对极限学习机（extreme learning machine，ELM）隐节点不确定性导致的系统不稳定，以及对大型数据计算负担过重的问题，提出了基于自适应动量优化算法（adaptive and momentum method，AdaMom）的正则化极限学习机。算法主要思想是构造连续可微的目标函数，在梯度下降过程中计算自适应学习率，求自适应学习率与梯度乘积的指数加权平均值，通过迭代得到损失函数最小值对应的隐层输出权重矩阵。实验结果表明，在相同基准数据集的训练中，AdaMom-ELM算法具有非常良好的泛化性能和鲁棒性，提高了计算效率。

来源：2021年第6期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2021年第6期