46k联系我们登录免费试用

使用 LangChain、Milvus、Mistral AI Mistral Small 和 Nomic Embed Text V2 构建 RAG 聊天机器人

什么是 RAG

检索增强生成（Retrieval-Augmented Generation，简称 RAG）正引领生成式 AI，尤其是对话式 AI 的新潮流。它将预训练的大语言模型（LLM，如 OpenAI 的 GPT）与存储于向量数据库（如 Milvus、Zilliz Cloud）中的外部知识源相结合，从而让模型输出更准确、更具上下文相关性，并且能够及时融合最新信息。 一个完整的 RAG 系统通常包含以下四大核心组件：

  • 向量数据库：用于存储与检索向量化后的知识；
  • 嵌入模型：将文本转为向量表示，为后续的相似度搜索提供支持；
  • 大语言模型（LLM）：根据检索到的上下文和用户提问生成回答；
  • 框架：负责将上述组件串联成可用的应用。

核心组件说明

本教程将带你在 Python 环境下，借助以下组件一步步搭建一个初级的 RAG 聊天机器人：

  • LangChain: 一个开源框架，帮助你协调大语言模型、向量数据库、嵌入模型等之间的交互，使集成检索增强生成（RAG）管道变得更容易。
  • Milvus: 一个开源的向量数据库，专门用于高效地存储、索引和搜索大规模向量嵌入，非常适合用于检索增强生成（RAG）、语义搜索和推荐系统等场景。如果您需要更具扩展性的解决方案，或不想管理自己的基础设施，我们推荐使用 Zilliz Cloud，这是一个基于开源项目 Milvus构建的全托管向量数据库服务，并提供支持最多 100 万个向量的免费套餐。
  • Mistral AI Mistral Small: 这个轻量级的变换器模型在减少内存占用的同时提供了竞争力的性能，使其适合资源受限的环境。它在文本生成和分类等任务中表现出色，提供了高效性而不牺牲质量。非常适合需要快速响应和低延迟的应用，例如聊天机器人和实时分析。
  • Nomic Embed Text V2: 一个开源的多语言文本嵌入模型，采用混合专家（MoE）架构以实现高效处理。该模型在16亿对文本上进行了训练，擅长于检索任务，支持灵活的嵌入维度，并优化存储和计算成本。其训练数据和代码完全开源，以确保透明性。

完成本教程后，你将拥有一个能够基于自定义知识库回答问题的完整聊天机器人。

注意事项: 使用专有模型前请确保已获取有效 API 密钥。

实战：搭建 RAG 聊天机器人

第 1 步：安装并配置 LangChain

%pip install --quiet --upgrade langchain-text-splitters langchain-community langgraph

第 2 步：安装并配置 Mistral AI Mistral Small

pip install -qU "langchain[mistralai]"

import getpass
import os

if not os.environ.get("MISTRAL_API_KEY"):
  os.environ["MISTRAL_API_KEY"] = getpass.getpass("Enter API key for Mistral AI: ")

from langchain.chat_models import init_chat_model

llm = init_chat_model("mistral-small-latest", model_provider="mistralai")

第 3 步：安装并配置 Nomic Embed Text V2

pip install -qU langchain-nomic

import getpass
import os

if not os.environ.get("NOMIC_API_KEY"):
  os.environ["NOMIC_API_KEY"] = getpass.getpass("Enter API key for Nomic: ")

from langchain_nomic import NomicEmbeddings

embeddings = NomicEmbeddings(model="nomic-ai/nomic-embed-text-v2-moe")

第 4 步：安装并配置 Milvus

pip install -qU langchain-milvus

from langchain_milvus import Milvus

vector_store = Milvus(embedding_function=embeddings)

第 5 步：正式构建 RAG 聊天机器人

在设置好所有组件之后，我们来搭建一个简单的聊天机器人。我们将使用 Milvus介绍文档 作为私有知识库。你可以用你自己的数据集替换它，来定制你自己的 RAG 聊天机器人。

import bs4
from langchain import hub
from langchain_community.document_loaders import WebBaseLoader
from langchain_core.documents import Document
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langgraph.graph import START, StateGraph
from typing_extensions import List, TypedDict

# 加载并拆分博客内容
loader = WebBaseLoader(
    web_paths=("https://milvus.io/docs/overview.md",),
    bs_kwargs=dict(
        parse_only=bs4.SoupStrainer(
            class_=("doc-style doc-post-content")
        )
    ),
)

docs = loader.load()

text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
all_splits = text_splitter.split_documents(docs)

# 索引分块
_ = vector_store.add_documents(documents=all_splits)

# Define prompt for question-answering
prompt = hub.pull("rlm/rag-prompt")


# 定义应用状态
class State(TypedDict):
    question: str
    context: List[Document]
    answer: str


# 定义应用步骤
def retrieve(state: State):
    retrieved_docs = vector_store.similarity_search(state["question"])
    return {"context": retrieved_docs}


def generate(state: State):
    docs_content = "\n\n".join(doc.page_content for doc in state["context"])
    messages = prompt.invoke({"question": state["question"], "context": docs_content})
    response = llm.invoke(messages)
    return {"answer": response.content}


# 编译应用并测试
graph_builder = StateGraph(State).add_sequence([retrieve, generate])
graph_builder.add_edge(START, "retrieve")
graph = graph_builder.compile()

测试聊天机器人

Yeah! You've built your own chatbot. Let's ask the chatbot a question.

response = graph.invoke({"question": "What data types does Milvus support?"})
print(response["answer"])

示例输出

Milvus 支持多种数据类型，包括稀疏向量、二进制向量、JSON 和数组。此外，它还支持常见的数值类型和字符类型，使其能够满足不同的数据建模需求。这使得用户能够高效地管理非结构化或多模态数据。

优化小贴士

在搭建 RAG 系统时，合理调优能显著提升性能与效率。下面为各组件提供一些实用建议：

LangChain 优化建议

为了优化 LangChain，需要通过高效地构建链路和代理来减少工作流程中的冗余操作。使用缓存避免重复计算，从而加快系统速度，并尝试采用模块化设计，确保模型或数据库等组件能够轻松替换。这将提供灵活性和效率，使您能够快速扩展系统，而无需不必要的延迟或复杂性。

Milvus 优化建议

Milvus 作为一个高效的向量数据库，在 RAG 系统的检索任务中发挥着关键作用。要优化其性能，应确保构建合适的索引，以平衡速度和准确性；对于响应时间至关重要的场景，可考虑使用 HNSW（Hierarchical Navigable Small World）进行高效的最近邻搜索。根据使用模式对数据进行分区，有助于提升查询性能并减少加载时间，从而提高系统的可扩展性。根据查询频率定期监控并调整缓存设置，以避免数据检索时出现延迟。向量插入时采用批处理模式，可以减少数据库锁争用，提高整体吞吐量。此外，通过调整向量的维度来优化模型参数：更高的维度可以提升检索准确性，但可能增加搜索时间，因此需根据具体用例和硬件条件找到最佳平衡点。

Mistral AI Mistral Small 优化建议

Mistral Small 是一个紧凑、高效的模型，最适合低延迟和成本效益高的 RAG 应用。通过确保检索管道返回高度针对性和简洁的上下文来优化令牌使用，从而减少不必要的模型计算。使用轻量级的提示压缩技术来简化输入格式，避免冗余细节。将温度调整到 0.1–0.2，以保持事实一致性，同时保持采样技术的最小化，以防止响应的可变性。对于实时应用，实施常见查询的缓存以进一步提高速度。如果进行大规模部署，可以利用量化版本的模型（例如，4 位或 8 位精度）来减少内存占用。使用批量推断技术以最大化吞吐量，同时最小化 API 调用开销。

Nomic Embed Text V2 优化建议

Nomic Embed Text V2 是一个多功能的嵌入模型，适用于 RAG 系统中的通用文本搜索任务。通过预处理输入数据以去除无关噪声并聚焦于最重要的内容，可以优化效率，这有助于减少计算开销。为了实现更快的检索，采用近似最近邻 (ANN) 搜索算法，如 HNSW 或 FAISS，加速搜索过程，同时保持准确性。考虑实施向量量化技术，在不显著影响检索质量的情况下减少存储空间。利用批处理来并行处理多个文本，降低 API 延迟。如果处理大型数据集，定期更新嵌入，以反映最新信息，确保您的检索系统保持相关性和有效性。

通过系统性实施这些优化方案，RAG 系统将在响应速度、结果准确率、资源利用率等维度获得全面提升。 AI 技术迭代迅速，建议定期进行压力测试与架构调优，持续跟踪最新优化方案，确保系统在技术发展中始终保持竞争优势。

RAG 成本计算器

估算 RAG 成本时，需要分析向量存储、计算资源和 API 使用等方面的开销。主要成本驱动因素包括向量数据库查询、嵌入生成和 LLM 推理。RAG 成本计算器是一款免费的在线工具，可快速估算构建 RAG 的费用，涵盖切块（chunking）、嵌入、向量存储/搜索和 LLM 生成。能帮助你发现节省费用的机会，最高可通过无服务器方案在向量存储成本上实现 10 倍降本。

立即使用 RAG 成本计算器

Calculate your RAG cost Calculate your RAG cost

收获与总结

你学到了什么？在这个教程中，你踏入了检索增强生成（RAG）系统的精彩世界！你看到了像 LangChain 这样强大的框架如何无缝集成必需组件，创建了一个构建智能应用程序的凝聚环境。通过 Milvus 的向量数据库，你现在具备了进行闪电般快速搜索的能力，确保能够在瞬间检索到相关信息。你还利用 Mistral AI Mistral Small 语言模型提供的对话智能，使你的应用程序能够理解和生成类人文本，带领你的 RAG 系统迈向新的高度。

此外，你也发现了 Nomic Embed Text V2 模型如何通过生成细腻的语义表示来丰富你的系统，捕捉数据的本质。掌握了优化技巧，并获得了免费的成本计算器的使用权限，你已经具备了充分的信息决策能力，可以在构建和完善系统的过程中做出明智的选择。

现在是时候让你的创造力翱翔了！投入到构建、优化和创新你自己的 RAG 应用程序中去吧。可能性真的是无穷无尽，我们迫不及待想看看你接下来会创造出什么！你通向人工智能未来的旅程从今天开始——让我们开始构建吧！

欢迎反馈！

我们很期待听到你的使用心得与建议！ 🌟 你可以：

  • 在下方留言；
  • 加入 Milvus Discord 社区，与全球 AI 爱好者一起交流。 如果你觉得本教程对你有帮助，别忘了给 Milvus GitHub 仓库点个 ⭐，这将激励我们不断创作！💖

大规模向量数据库

Zilliz Cloud 是一个专为大规模应用构建的全托管向量数据库，完美适配您的 RAG 应用。

免费试用 Zilliz Cloud
快速免费计算您的 RAG 成本

继续阅读

AI Assistant