迁移学习是少镜头学习和零镜头学习的关键组成部分，因为它使模型能够利用从以前的任务中获得的知识来提高新的，通常是有限的数据场景的性能。在少镜头学习中，目标是训练一个模型来识别带有很少标记示例的新类。迁移学习有助于使用预先训练的模型，该模型已经从大型数据集中学习了一般特征。例如，如果一个模型最初是在像ImageNet这样的多样化图像数据集上训练的，它可以保留关于基本形状和模式的知识。当仅根据几张图像来识别特定动物品种的任务时，这种预先训练的模型可以调整其学习特征，以更有效地识别新类别。
在零射学习中，挑战是将对象分类为模型从未遇到过的类别。在这里，迁移学习通过已知和未知类别之间的关系提供语义知识来提供帮助。例如，如果在车辆上训练的模型可以区分汽车和卡车，则它可以通过理解将其与已知类别区分开来的属性 (例如具有两个车轮并且不需要马达) 来应用该知识来识别新类别，如 “自行车”。这种从现有知识中进行概括以对全新类进行预测的能力使得迁移学习在零射击场景中如此有价值。
总体而言，迁移学习通过使模型能够利用他们从先前任务中学到的知识，缓解了少镜头和零镜头学习中的数据稀缺问题。通过利用预先训练的模型及其固有知识，开发人员可以构建更强大的系统，这些系统可以使用有限的数据执行，甚至可以处理全新的任务，而无需进行大量的重新训练。这不仅加快了开发速度，而且增强了模型在各个领域的适应性。