“自动机器学习（AutoML）简化了构建和部署机器学习模型的过程。然而，其使用存在显著的隐私担忧。一个关键问题出现在使用敏感数据训练模型时。如果数据包含个人信息，如财务记录或健康数据，存在重大风险，这些信息可能会被暴露或滥用。例如，在医疗保健中应用AutoML而不遵循严格的数据处理协议，可能导致患者的私人信息通过模型输出或数据日志意外泄露。
另一个主要担忧与训练过程中的数据泄漏有关。在AutoML中，算法会自动选择特征并优化模型，这可能在训练数据集管理不当的情况下无意中暴露机密信息。例如，如果一个模型是在包含个人可识别信息（PII）的用户交互数据上训练的，存在模型可能学习复制或预测敏感结果的风险，从而妨碍用户隐私。在共享数据集的场景中，这种风险尤其明显，因为了解模型的工作方式可能会导致对应保持机密的基础数据的洞察。
最后，在使用AutoML平台时，尤其是云端托管的平台，还可能存在第三方访问敏感数据的潜在风险。许多开发者可能依赖外部工具或环境来进行AutoML过程，这引发了对数据控制和隐私的担忧。这些平台或其员工的未经授权访问可能无意中暴露敏感信息。组织在使用此类工具时必须实施严格的数据治理和安全协议，确保数据匿名化和加密，以防止泄露。通过理解这些担忧，开发者可以采取主动措施来降低与AutoML相关的隐私风险。”