联邦学习利用多种优化算法，使得在分布式设备上进行有效的模型训练而无需共享原始数据。这些算法的主要目标是通过聚合参与客户端 locally 计算的更新来更新全局模型。最常用的方法之一是联邦平均 (FedAvg)，该方法在多个客户端完成局部更新后，通过对模型权重或更新进行平均来操作。这一方法假定客户端的数据分布相似，从而允许进行简单的聚合以提高模型性能。
除了 FedAvg，还采用了其他算法以解决联邦学习中的特定挑战。例如，联邦随机方差降低梯度 (FSVRG) 通过引入随机优化中的技术来帮助减轻局部更新中的方差。这可以提高收敛速度和稳定性，特别是当客户端具有高度非独立同分布（non-IID）数据时。此外，联邦近端 (FedProx) 在优化过程中引入了惩罚项，限制局部模型的更新，以防止它们过度偏离全局模型。这在客户端数据分布存在显著差异时尤其有益。
此外，像 FedDyn 和 Local SGD 这样的优化算法在联邦学习场景中也变得越来越受欢迎。FedDyn 根据客户端的数据分布进行动态权重调整，而 Local SGD 则允许更频繁的局部更新，从而减少与中央服务器的通信开销。通过部署这些多种算法，联邦学习可以满足不同应用的需求，平衡个性化模型性能与维护去中心化环境中整体全局模型完整性之间的权衡。