“联邦学习中的差分隐私是一种旨在保护个体数据隐私的技术，同时仍然允许从数据集中学习有用信息。在联邦学习中，多台设备（如智能手机）协作训练一个共享的机器学习模型，而无需共享其本地数据。相反，它们只向中央服务器发送从其数据中得出的更新或梯度。差分隐私通过向这些更新中引入控制噪声增加了一层安全性，确保任何单个个体数据的贡献不能被轻易识别或重建。
例如，考虑一个场景，其中正在训练一个联邦学习模型来根据用户数据预测健康结果。如果没有差分隐私，恶意方可能会分析模型更新，并推断出关于特定用户或其健康信息的细节。通过应用差分隐私，噪声被添加到从每个设备发送到服务器的梯度更新中。这意味着即使有人试图逆向工程这些更新，数据仍会被模糊化到足以保护个体隐私，同时仍允许模型从足够的信息中学习，以保持有效性。
在实践中，实现差分隐私涉及选择适当的噪声量。这通常通过像隐私预算（epsilon）这样的参数进行调整，隐私预算量化了模型准确性与隐私保护程度之间的权衡。开发人员可以使用支持差分隐私的库和框架，从而轻松将这些技术应用于他们的联邦学习工作流。总体而言，在联邦学习中采用差分隐私对于保护用户数据至关重要，而不会影响机器学习应用的性能。”