联邦学习通信开销研究综述

被引：9

作者：

邱鑫源 ^{[1
,2
]}

叶泽聪 ^{[1
,2
]}

崔翛龙 ^{[2
,3
]}

高志强 ^{[2
]}

机构：

[1] 武警工程大学研究生大队

[2] 武警工程大学反恐指挥信息工程研究团队

[3] 武警工程大学乌鲁木齐校区

来源：

计算机应用 | 2022年 / 42卷 / 02期

关键词：

联邦学习; 通信开销; 模型压缩; 并行计算; 客户端选择策略;

D O I：

暂无

中图分类号：

TP181 [自动推理、机器学习]; TN91 [通信];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ; 0810 ; 081001 ;

摘要：

为了解决数据共享需求与隐私保护要求之间不可调和的矛盾,联邦学习应运而生。联邦学习作为一种分布式机器学习,其中的参与方与中央服务器之间需要不断交换大量模型参数,而这造成了较大通信开销;同时,联邦学习越来越多地部署在通信带宽有限、电量有限的移动设备上,而有限的网络带宽和激增的客户端数量会使通信瓶颈加剧。针对联邦学习的通信瓶颈问题,首先分析联邦学习的基本工作流程;然后从方法论的角度出发,详细介绍基于降低模型更新频率、模型压缩、客户端选择的三类主流方法和模型划分等特殊方法,并对具体优化方案进行深入的对比分析;最后,对联邦学习通信开销技术研究的发展趋势进行了总结和展望。

引用

页码：333 / 342

页数：10

共 12 条

[1] 联邦学习隐私保护研究进展 [J].

王健宗 ;

孔令炜 ;

黄章成 ;

陈霖捷 ;

刘懿 ;

卢春曦 ;

肖京 .

大数据, 2021, 7 (03) :130-149

[2] 联邦学习安全与隐私保护综述 [J].

陈兵 ;

成翔 ;

张佳乐 ;

谢袁源 .

南京航空航天大学学报, 2020, 52 (05) :675-684

[3] 联邦学习算法综述 [J].

王健宗 ;

孔令炜 ;

黄章成 ;

陈霖捷 ;

刘懿 ;

何安珣 ;

肖京 .

大数据, 2020, 6 (06) :64-82

[4] 联邦学习在5G云边协同场景中的原理和应用综述 [J].

刘耕 ;

赵立君 ;

陈庆勇 ;

唐小勇 ;

游正鹏 .

通讯世界, 2020, 27 (07) :50-52

[5] 联邦学习安全与隐私保护研究综述 [J].

周俊 ;

方国英 ;

吴楠 .

西华大学学报(自然科学版), 2020, 39 (04) :9-17

[6] 面向数据共享交换的联邦学习技术发展综述 [J].

王亚珅 .

无人系统技术, 2019, 2 (06) :58-62

[7] Federated Learning Over Wireless Fading Channels [J].

Amiri, Mohammad Mohammadi ;

Gunduz, Deniz .

IEEE TRANSACTIONS ON WIRELESS COMMUNICATIONS, 2020, 19 (05) :3546-3557

[8]

A review of applications in federated learning [J] . Li Li,Yuxi Fan,Mike Tse,Kuo-Yi Lin.&nbsp&nbspComputers & Industrial Engineering . 2020 (prep)

[9]

Robust and Communication-Efficient Federated Learning From Non-i.i.d. Data. [J] . Sattler Felix,Wiedemann Simon,Muller Klaus-Robert,Samek Wojciech.&nbsp&nbspIEEE transactions on neural networks and learning systems . 2019 (9)

[10]

Federated Machine Learning: Concept and Applications. [J] . Qiang Yang,Yang Liu,Tianjian Chen,Yongxin Tong.&nbsp&nbspACM TIST . 2019 (2)

← 1 2 →