计算机应用研究

作者：王梦可,杨朝晖,查晓婧,夏银水,

单位：宁波大学信息科学与工程学院,浙江宁波315211；

关键词：RRAM阵列,缺陷容忍,神经网络,知识蒸馏,

基金：国家自然科学基金资助项目(62131010,U22A2013)；国家自然科学基金青年项目(62304115)；浙江省自然科学基金创新群体资助项目(LDT23F04021F04)；浙江省科研计划一般项目(Y202248965)；；

针对RRAM单元制造工艺不完善造成神经网络矩阵向量乘法计算错误问题，根据RRAM阵列多缺陷特性进行建模，提出了多缺陷容忍算法。首先根据RRAM阵列常见的转变缺陷和粘连缺陷对神经网络计算准确度的影响，对两种缺陷统一建模；然后对神经网络进行划分，基于改进的知识蒸馏方式进行分区训练；最后选择适配的损失函数加入归一化层，进一步优化算法。在MNIST和Cifar-10数据集上进行实验，结果表明该方法在多个神经网络上能够得到98%以上的恢复率，说明该方法可有效降低RRAM阵列多缺陷对神经网络计算准确度的影响。

来源：2024年第10期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2024年第10期