国内刊号:51-1196/TP
国际刊号:1001-3695
发布日期:
作者:赵雪,李晓会,
单位:辽宁工业大学电子与信息工程学院,辽宁锦州121000;
关键词:联邦学习,梯度提升决策树,非独立同分布,局部敏感哈希,
基金:国家自然科学基金青年科学基金资助项目(61802161);辽宁省应用基础研究计划项目(2022JH2/101300278,2022JH2/101300279);;
随着联邦学习的不断兴起,梯度提升决策树(GBDT)作为一种传统的机器学习方法,逐渐应用于联邦学习中以达到理想的分类效果。针对现有GBDT的横向联邦学习模型,存在精度受非独立同分布数据的影响较大、信息泄露和通信成本高等问题,提出了一种面向非独立同分布数据的联邦梯度提升决策树(federated GBDT for non-IID dataset,nFL-GBDT)。首先,采用局部敏感哈希(LSH)来计算各个参与方之间的相似样本,通过加权梯度来构建第一棵树。其次,由可靠第三方计算只需要一轮通信的全局叶权重来更新树模型。最后,实验分析表明了该算法能够实现对原始数据的隐私保护,并且通信成本低于simFL和FederBoost。同时,实验按照不平衡比率来划分三组公共的数据集,结果表明该算法与Individual、TFL及F-GBDT-G相比,准确率分别提升了3.53%、5.46%和4.43%。
来源:2023年第7期
《计算机应用研究》期刊编辑部