转换器，特别是像BERT (来自转换器的双向编码器表示) 这样的模型，通过改善对查询和文档中的上下文和语义的理解来增强信息检索 (IR)。与依赖词袋表示的传统模型不同，transformers根据词的周围上下文捕获词的含义，从而实现查询和文档之间更准确的匹配。
在IR中，转换器用于通过提供深刻的上下文理解来提高相关性。例如，当用户提交查询时，变换器模型可以生成查询的丰富向量表示，然后可以将其与文档表示进行比较以找到最相关的结果。这导致更准确的语义搜索和改进的同义词、多义词和复杂查询的处理。
Transformers还允许对特定领域的任务进行微调，使其适用于各种IR应用，例如问答，新闻汇总和法律文档搜索。与传统模型相比，它们理解上下文和单词之间关系的能力显着提高了搜索质量。