自监督学习模型通过利用无标签数据来学习，使用数据本身创建标签或任务，这些标签或任务帮助模型理解数据中的模式和特征。这种方法与传统的监督学习大相径庭，后者需要大量的标注数据。在自监督学习中，模型通过各种技术生成自己的标签，从而能够在不需要人工标注示例的情况下，推导出有用的表示。
例如，一种常见的方法是使用对比学习，在这种方法中，模型被训练以区分相似和不相似的示例。假设你有一组图像，模型可能随机选择图像对并创建一个任务，需要识别哪些对属于同一类别，哪些不属于。通过在许多迭代中使用不同的图像对进行这种操作，模型对定义不同类别的基本特征（如颜色、形状或纹理）有了更好的理解。
另一种流行的方法涉及基于数据的其他部分预测数据的某些部分。例如，在自然语言处理领域，一个自监督模型可能会拿一个缺少部分单词的句子，并试图预测缺失的单词。同样，在图像处理中，模型可能会学习如何从自己损坏的版本中重建图像。这些任务帮助模型学习丰富的数据表示，使得在下游任务如分类或目标检测中应用所学知识变得更加容易，而无需庞大的标注数据集。