子词嵌入表示单词的一部分 (例如前缀，后缀或字符n-gram)，而不是整个单词。这些嵌入对于处理稀有或看不见的单词特别有用，可以将它们分解成更小的有意义的组件。
例如，在FastText这样的子词模型中，单词 “running” 可能会被分解成子词，如 “run” 、 “ning” 和 “ing”。这种方法允许模型更好地概括，因为相似的词共享共同的子词，即使它们在训练期间没有被看到。
子词嵌入在具有丰富形态或大词汇量的语言中特别有价值，因为它们有助于减少未知单词的数量并提高机器翻译和文本分类等任务的性能。通过专注于较小的组件，子词嵌入在文本中捕获更细粒度的关系。