AutoML 采用多种方法确保其模型的公平性,主要通过解决数据中的偏见、在模型训练过程中采用公平性指标,以及允许用户自定义公平性设置。其目标是创建对所有人口统计群体表现良好的模型,以避免强化历史偏见。这个过程的关键部分是分析训练数据中是否存在代表性差异。例如,如果用于训练模型的数据集中某些群体的过度代表,那么这种偏见可能会反映在模型的预测中。AutoML 可以标记并建议平衡这些数据集的方法,例如通过减少过度代表群体的样本或增加不足代表群体的样本。
除了数据平衡,AutoML 框架还使用公平性指标在训练过程中评估模型。这些指标可以表明模型在不同群体中的表现如何,基于受保护属性如种族、性别或年龄。例如,如果正在开发一个评估信用worthiness的模型,那么检查其是否无意中根据性别或民族对人们进行不同评级是至关重要的。通过在训练过程中整合公平性指标,开发者可以识别模型预测中的问题,并在部署之前进行调整,以最小化这些差异。
最后,许多 AutoML 系统允许开发者根据模型将被使用的上下文设置特定的公平性目标。这种自定义可以涉及根据应用程序优先考虑平等机会或人口平衡。例如,在招聘工具中,开发者可能会选择优化不同人口群体之间的相等误拒率。这种灵活性使开发者能够做出更公平的选择,以适应各自行业的伦理标准,确保最终模型不仅高效,而且公正和负责任。通过结合数据分析、公平性指标和可定制设置,AutoML 提供了一种结构化的方法来开发更公平的机器学习模型。