国内刊号:51-1196/TP
国际刊号:1001-3695
发布日期:
作者:陶慧杏,陈云华,陈平华,廖朝辉,周宏虹,
单位:广东工业大学计算机学院,广州510640;
关键词:脉冲神经网络,脉冲Transformer,膨胀可分离注意力,频域学习,令牌混合器,
基金:广东省重点领域研发计划项目(2023B1111050010);广东省自然科学基金资助项目(2025A1515012243);;
脉冲 Transformer 凭借其高能效与高性能,将SNN的性能提升到了一个新的高度,但其仍面临计算复杂度高、高频信息易丢失等挑战。为此,提出一种双域令牌混合器(SFTM),包含脉冲膨胀可分离注意力(SDSA)与傅里叶频域学习器(FTFL)两条分支。SDSA 通过大核深度卷积建模长程空间依赖,以线性复杂度降低计算负担;FTFL利用频域变换与自适应加权机制恢复高频细节信息,有效弥补脉冲注意力的低通滤波缺陷。同时,设计脉冲深度前馈网络(SDWFFN)以增强跨通道信息交互。基于上述模块构建的SFformer模型在CIFAR-10/100及多个神经形态数据集上的实验结果表明,其性能相当甚至优于当前主流模型的精度,同时显著降低了计算复杂度与能耗。特别在CIFAR-100上达到81.34%的准确率,相比同类模型的先前最优算法精度提升了3.13%,能耗仅为0.27 mJ,验证了该方法在保持高性能的同时具备显著的能效优势。
来源:2026年第4期
《计算机应用研究》期刊编辑部