对比学习通过训练模型来生成嵌入，以在嵌入空间中使相似的数据点更接近，同时将不相似的数据点推开。这是使用数据对或三元组来实现的，其中 “正” 对是相似的 (例如，同一图像的两个视图)，而 “负” 对是不相似的 (例如，不同的图像)。
对比学习的常见目标函数是一次损失，它使正对的相似性最大化，而使负对的相似性最小化。SimCLR和CLIP等模型利用对比学习为图像、文本和其他模态生成高质量的嵌入。
对比学习在标记数据稀缺的自我监督环境中特别有效。通过在数据中使用增强或自然关系，它可以生成嵌入，从而很好地概括到分类，聚类和检索等下游任务。