Llm通过应用在大型多样化数据集上的预训练期间获得的知识来使用迁移学习，以通过微调来执行特定任务。在预训练期间，模型通过预测屏蔽的标记或大量文本语料库中的下一个单词来学习一般的语言结构，例如语法，语法和单词关系。这使模型具有广泛的语言能力。
微调使用较小的、以任务为中心的数据集，使预训练的模型适应特定的用例。例如，可以对法律文件进行微调，以专门研究法律文本分析或医疗保健应用程序的医疗记录。这一步细化了模型的知识，以适应特定领域的要求，同时保留了对语言的一般理解。
迁移学习大大减少了培训所需的资源和时间，因为它消除了从头开始的需要。它还允许LLMs在具有有限标记数据的任务上表现出色，使其成为从情感分析到代码生成等广泛应用的通用工具。