什么是检索增强生成 (RAG)
检索增强生成（Retrieval-Augmented Generation，RAG）是一种结合检索和生成方法的自然语言处理技术。它结合了信息检索和文本生成两种技术，以帮助生成更加丰富、准确的文本。RAG模型首先根据输入的检索问题从语料库中检索相关文本，然后利用这些文本进行文本生成，生成与检索问题相关的文本结果。这种方法旨在提高文本生成的质量和准确性，尤其适用于需要大量外部知识或信息检索支持的生成任务。RAG模型在问答系统、对话系统等自然语言处理任务中取得了不错的表现。
技术干货
如何在大语言模型 Serving 阶段高效管理内存：分页注意力机制
在 Serving 阶段实现有效的内存管理至关重要。一个可行的解决方案是通过 PagedAttention 算法。本文将重点探讨这种解决方案。
2024-11-15
技术干货
深度解读混合专家模型（MoE）：算法、演变与原理
本文将介绍 MoE 的核心概念、LLM、训练、推理以及 MoE 在现代 AI 模型中的作用。
2024-11-19
技术干货
从 CLIP 到 JinaCLIP：搜索和多模态 RAG 中的通用 文本-图像表示学习
在最近由 Zilliz 主办的非结构化数据 Meetup 上，Jina AI 的工程经理 Bo Wang 向我们介绍了模态 Gap 问题的复杂性并探讨了从 OpenAI 的 CLIP 模型到 JinaCLIP 的转变。本文将回顾他的一些主要观点，并上手搭建一个多模态相似性搜索系统。搭建这个系统的过程中，我们将使用 JinaCLIP 生成多模态 Embedding，并使用 Milvus 向量数据库存储和检索与查询向量相似的数据。
2024-11-15