计算机应用研究

作者：刘卫明,罗全成,毛伊敏,彭喆,

单位：1.江西理工大学信息工程学院,江西赣州341000；2.韶关学院信息工程学院,广东韶关512026；3.中华人民共和国大铲海关,广东深圳518000；

关键词：并行DCNN算法,Spark框架,PDCNN-SAMPSO算法,负载均衡策略,

基金：科技创新2030-“新一代人工智能”重大项目(2020AAA0109605)；广东省重点提升项目(2022ZDJS048)；韶关市科技计划资助项目(220607154531533)；；

针对并行DCNN算法在大数据环境下存在冗余参数过多、收敛速度慢、容易陷入局部最优和并行效率低的问题，提出了基于Spark和AMPSO的并行深度卷积神经网络优化算法PDCNN-SAMPSO。首先，该算法设计了基于卷积核重要性和相似度的卷积核剪枝策略（KP-IS），通过剪枝模型中冗余的卷积核，解决了冗余参数过多的问题；接着，提出了基于自适应变异粒子群优化算法的模型并行训练策略（MPT-AMPSO），通过使用自适应变异的粒子群优化算法（AMPSO）初始化模型参数，解决了并行DCNN算法收敛速度慢和容易陷入局部最优的问题；最后，提出了基于节点性能的动态负载均衡策略（DLBNP），通过均衡集群中各节点负载，解决了集群并行效率低的问题。实验表明，当选取8个计算节点处理CompCars数据集时，PDCNN-SAMPSO较Dis-CNN、DS-DCNN、CLR-Distributed-CNN、RS-DCNN的运行时间分别降低了22%、30%、37%和27%，加速比分别高出了1.707、1.424、1.859、0.922，top-1准确率分别高出了4.01%、4.89%、2.42%、5.94%，表明PDCNN-AMPSO在大数据环境下具有良好的分类性能，适用于大数据环境下DCNN模型的并行训练。

来源：2023年第10期

《计算机应用研究》期刊编辑部

查看计算机应用研究杂志2023年第10期