论文标题：FedCare: towards interactive diagnosis of federated learning systems

期刊：Frontiers of Computer Science

作者：Tianye ZHANG, Haozhe FENG, Wenqi HUANG, Lingyu LIANG, Huanming ZHANG, Zexian CHEN, Anthony K. H. TUNG, Wei CHEN

发表时间：24 Jul 2024

DOI： 10.1007/s11704-024-3735-7

微信链接：点击此处阅读微信文章

引用格式：

Tianye ZHANG, Haozhe FENG, Wenqi HUANG, Lingyu LIANG, Huanming ZHANG, Zexian CHEN, Anthony K. H. TUNG, Wei CHEN. FedCare: towards interactive diagnosis of federated learning systems. Front. Comput. Sci., 2025, 19(7): 197335

阅读原文：

文章介绍

联邦学习是一种机器学习范式，即多个数据所有者在中央服务器的协调下合作训练一个模型，同时保持所有数据的分散性。这种模式可以有效地训练模型，同时避免数据隐私泄露。然而，联邦学习很容易受到恶意和非恶意攻击，导致各种故障。现有关于联邦学习中攻击的研究大多致力于恶意攻击（如数据中毒攻击）的自动防御。相对而言，人们对处理非恶意攻击（如非独立同分布的数据故障）的关注较少，而这种故障在联邦学习环境中更为常见，也更难处理。在本文中，我们提出了一种用于处理联邦学习系统故障的实时可视化诊断方法FedCare。其功能包括识别故障、评估其性质（恶意或非恶意）、研究其影响以及推荐适当的防御策略。我们的设计是多方面的，从模型性能、客户异常/贡献评估、特征图、群组活动和客户影响等角度提供视角。我们通过两个案例研究、一个定量实验和一个专家访谈来证明我们的方法的有效性。

期刊简介

Frontiers of Computer Science （FCS）是由教育部主管、高等教育出版社和北京航空航天大学共同主办，南京大学支持，SpringerNature 公司海外发行的英文学术期刊。本刊于 2007 年创刊，月刊，全球发行。主要刊登计算机科学领域具有创新性的综述论文、研究论文等。本刊主编为周志华教授，共同主编为熊璋教授。编委会及青年 AE 团队由国内外知名学者及优秀青年学者组成。本刊被 SCI、Ei、DBLP、INSPEC、SCOPUS 和中国科学引文数据库（CSCD）核心库等收录，为 CCF 推荐B类期刊；两次入选“中国科技期刊国际影响力提升计划”；入选“第4届中国国际化精品科技期刊”；两次入选“中国科技期刊卓越行动计划”（一期梯队、二期领军）。

中国学术前沿期刊网

http://journal.hep.com.cn