微调是调整预先训练的LLM以执行特定任务或在特定域中操作的过程。这涉及在较小的特定任务数据集上训练模型，同时保留在预训练期间获得的一般语言理解。例如，使用医疗数据微调通用LLM可以创建专门用于诊断疾病的模型。
微调允许开发人员自定义模型的行为并提高其在专门任务上的性能，而无需从头开始进行大量培训。当预训练模型的一般知识不足以应对特定领域的挑战时，它特别有用。
与预训练相比，该过程相对快速且计算效率高，因为它仅涉及调整模型参数的子集。低秩自适应 (LoRA) 或参数高效微调 (PEFT) 等技术进一步优化了这一过程，使计算资源有限的开发人员可以使用它。