国内刊号:51-1196/TP
国际刊号:1001-3695
发布日期:
作者:李炜奇,陈云华,陈平华,朱春佳,
单位:1.广东工业大学计算机学院,广州510006;2.中国舰船研究设计中心,四川内江641199;
关键词:脉冲神经网络,批归一化,脉冲时间依赖性,脉冲神经网络训练算法,
基金:广东省自然科学基金资助项目(2025A1515012243);广东省重点领域研发计划资助项目(2023B1111050010);;
脉冲神经网络(SNN)因其具有更好的生物解释性、强大的时空信息表征能力,以及超低功耗和延迟特性而受到广泛关注。然而SNN在训练算法、超参数设置、架构设计研究等方面还存在不少挑战性的问题。针对现有SNN归一化(BN)方法无法有效处理时间依赖性的问题,通过分析膜电位增量在时间步上的传播,提出按时间步逐步计算膜电位增量的时空积累量;以此为数据分布的统计量分别对各个时间步数据进行归一化,并提出按照指数移动平均计算膜电位增量的时空积累量,形成一种带衰减因子的时空累积批归一化(spatio-temporal attenuation cumulative batch normalization,STBN)方法。在CIFAR-10 和 CIFAR-100及CIFAR10-DVS数据集上的实验结果表明,所提方法能显著提升网络分类精度并降低时延。特别是在CIFAR-100数据集上仅使用两个时间步就获得了76.30%的精度,相比同类模型的先前最优算法精度提升了3.43%。
来源:2025年第8期
《计算机应用研究》期刊编辑部