在联邦学习中，恶意攻击带来了重大风险，特别是因为它们可能破坏在分布式设备上训练的模型的完整性。为了减轻这些风险，采用了几种策略。其中一种方法是在模型更新过程中使用稳健的聚合方法。与其简单地对来自不同设备的更新进行平均，不如使用坐标中位数或剔除均值等技术，这可以帮助最小化因恶意行为而导致的异常更新的影响。通过这种方式，如果某个恶意设备试图发送一个损坏的模型更新，它的影响可以通过依赖大多数诚实更新而大大减少。
另一种有效的策略涉及异常检测机制。通过监控参与设备提交的更新，系统可以标记那些与基于历史数据的预期模式有显著差异的更新。例如，如果某个设备通常在某个阈值内为模型更新做出贡献，但突然发送了一个显著不同的更新，系统可以将其识别为可能的恶意行为。然后可以丢弃这一检测到的异常，确保仅聚合合法的更新，从而最终导致一个更安全、更稳健的模型。
最后，加密和安全的多方计算技术可以提供额外的保护层。通过在传输过程中对模型更新进行加密，并确保只有经过授权的参与者可以访问模型参数，联邦学习系统可以降低拦截和篡改的风险。例如，采用同态加密允许在加密数据上执行计算，因此即使对手拦截了更新，他们也无法推导出有用的信息。通过结合这些不同的方法，联邦学习可以在容纳多个、通常是多样化的数据源的同时，保持模型的完整性。