在检索增强生成 (RAG) 工作流程中，嵌入用于弥合检索和生成过程之间的差距。RAG模型首先使用嵌入从大型语料库中检索相关文档或信息，然后使用这些嵌入作为生成答案或内容的上下文。关键思想是嵌入允许模型有效地搜索大型数据集，并根据其与查询的相似性选择最相关的信息。
在RAG工作流中，查询或提示被编码为嵌入，并与语料库中文档的嵌入进行比较。基于它们在嵌入空间中的接近度，检索最相关的文档，并将其用作生成最终输出的上下文。这种检索和生成的组合提高了问答、总结甚至创造性文本生成等任务的性能，因为该模型可以利用外部知识，同时仍然生成连贯的、上下文适当的响应。
RAG工作流中的嵌入有助于系统有效处理大量非结构化数据，并专注于最相关的信息，从而实现更准确和相关的输出。通过使用预训练的嵌入对查询和文档进行编码，RAG模型可以在大规模任务中高效运行，而无需一次处理所有数据。这种方法在开放域问答和文档摘要等领域特别有用，其中模型需要访问广泛的信息以生成有意义的输出。