国内刊号:51-1196/TP
国际刊号:1001-3695
发布日期:
作者:王浩杰,刘闯,
单位:沈阳大学信息工程学院,沈阳110044;
关键词:脉冲神经网络,高精度转换,双阈值记忆神经元,自适应阈值,
基金:辽宁省自然科学基金资助项目(2023-MS-322);中国博士后科学基金会资助项目(2021M693858);沈阳市中青年科技创新人才支持计划资助项目(RC210400);辽宁省自然科学基金计划重点项目(20170520364);;
脉冲神经网络(spiking neural network,SNN)由于在神经形态芯片上低功耗和高速计算的独特性质而受到广泛的关注。深度神经网络(deep neural network,DNN)到SNN的转换方法是有效的脉冲神经网络训练方法之一,然而从DNN到SNN的转换过程中存在近似误差,转换后的SNN在短时间步长下遭受严重的性能退化。通过对转换过程中的误差进行详细分析,将其分解为量化和裁剪误差以及不均匀误差,提出了一种改进SNN阈值平衡的自适应阈值算法。通过使用最小化均方误差(MMSE)更好地平衡量化误差和裁剪误差;此外,基于IF神经元模型引入了双阈值记忆机制,有效解决了不均匀误差。实验结果表明,改进算法在CIFAR-10、CIFAR-100数据集以及MIT-BIH心律失常数据库上取得了很好的性能,对于CIFAR10数据集,仅用16个时间步长就实现了93.22%的高精度,验证了算法的有效性。
来源:2024年第1期
《计算机应用研究》期刊编辑部