您如何处理训练中的类别不平衡问题？

注意机制在进行预测时优先考虑输入数据的重要部分。通过为输入元素分配权重，网络将重点放在相关特征上，而忽略不相关的特征。

在像转换器这样的序列模型中，注意力捕获单词之间的依赖关系，而不管它们的位置。例如，自我注意计算序列内的关系，从而实现翻译或文本摘要等任务。

注意力的应用扩展到视觉 (例如，图像字幕) 和语音识别。关键组件，如缩放点积注意力中的查询、键和值，允许在各种领域中实现灵活且可扩展的实现。