计算机应用研究

北大核心,JST,Pж(AJ),CSCD扩展版,WJCI

国内刊号:51-1196/TP

国际刊号:1001-3695

计算机应用研究杂志2026年第4期:基于脉冲膨胀可分离注意力与频域学习的双域令牌混合器

发布日期:

作者:陶慧杏,陈云华,陈平华,廖朝辉,周宏虹,

单位:广东工业大学计算机学院,广州510640;

关键词:脉冲神经网络,脉冲Transformer,膨胀可分离注意力,频域学习,令牌混合器,

基金:广东省重点领域研发计划项目(2023B1111050010);广东省自然科学基金资助项目(2025A1515012243);;

脉冲 Transformer 凭借其高能效与高性能,将SNN的性能提升到了一个新的高度,但其仍面临计算复杂度高、高频信息易丢失等挑战。为此,提出一种双域令牌混合器(SFTM),包含脉冲膨胀可分离注意力(SDSA)与傅里叶频域学习器(FTFL)两条分支。SDSA 通过大核深度卷积建模长程空间依赖,以线性复杂度降低计算负担;FTFL利用频域变换与自适应加权机制恢复高频细节信息,有效弥补脉冲注意力的低通滤波缺陷。同时,设计脉冲深度前馈网络(SDWFFN)以增强跨通道信息交互。基于上述模块构建的SFformer模型在CIFAR-10/100及多个神经形态数据集上的实验结果表明,其性能相当甚至优于当前主流模型的精度,同时显著降低了计算复杂度与能耗。特别在CIFAR-100上达到81.34%的准确率,相比同类模型的先前最优算法精度提升了3.13%,能耗仅为0.27 mJ,验证了该方法在保持高性能的同时具备显著的能效优势。

来源:2026年第4期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2026年第4期

联系我们

  • 地址:四川省成都市武候区成科西路3号
  • 电话:028-85249567
  • E-mail:journal@arocmag.cn

咨询工作人员