评估嵌入的质量涉及评估嵌入在数据中捕获底层结构和关系的程度。一种常见的评估方法是使用下游任务 (如分类、聚类或检索) 来衡量嵌入对特定问题的执行情况。例如,单词或文档的嵌入可以通过其提高分类器的准确性或搜索结果的相关性的能力来测试。
另一种方法是测量嵌入之间的余弦相似性,以检查相似的项是否在向量空间中放置得更近。对于单词嵌入,可以使用类似类比任务 (例如,“男人” 是 “女人”,“国王” 是 “女王”) 之类的技术来评估嵌入捕获语义关系的程度。
对于像图像或产品推荐这样的专业领域,嵌入的质量也可以通过它们在最近邻搜索中的有效性来评估,其中基于它们的嵌入来检索相似的项目。通常,定量测量 (例如,准确性或召回率) 和定性评估 (例如,人类评估) 的组合用于评估嵌入的质量。