跳转到内容
For the complete documentation index, see llms.txt. This page is also available as Markdown.

快速开始

使用 Neuron 框架实现检索增强生成的分步指南。

前置条件

本指南假设你已经熟悉以下概念:

编码代理技能

检索增强生成(RAG)是在生成响应之前,向大语言模型(LLM)训练数据源之外的知识库提供引用的过程。

大语言模型(LLM)在海量数据上训练,以便能够针对问答、语言翻译和句子补全等任务生成原创输出。RAG 将 LLM 已经很强大的能力扩展到特定领域或组织的内部知识库,而且无需重新训练模型。

这是一种具有成本效益的方法,可提升 LLM 的输出,使其保持相关、准确和有用,同时还能处理你自己的私有数据。

为什么 RAG 系统很重要

构建 RAG 系统是将强大的 LLM 能力用于你自己的私有数据的方式。你可以创建能够准确回答公司内部文档问题的应用。也可以创建一个聊天机器人,为外部客户提供组织内部规则方面的服务。

如果不是关于私有数据的使用,你可以把 RAG 看作一种向生成模型提供最新研究、统计数据或新闻的方式。

如何创建 RAG 系统

没有 RAG 时,LLM 会接收用户输入,并基于它训练时所学到的信息(即它已经知道的内容)生成响应。

有了 RAG,会引入一个信息检索组件。它会利用用户输入,先从新的数据源中提取信息。用户查询和检索到的相关信息都会提供给 LLM。LLM 使用新知识和自身的训练数据来生成准确的响应。以下各节将概述这一过程。

即使它看起来有点复杂,也别担心,这只是为了让你了解整个过程。这些事情大多都会由 Neuron RAG 代理自动管理。

创建 RAG 系统最重要的步骤有三个。

1)处理外部数据

你想用于增强默认 LLM 知识的外部数据,可能以各种格式存在,例如文件、数据库记录或长文本。

在将这些数据提交给 LLM 之前,你必须把它们转换成一种称为“嵌入".

2)检索

你通过处理文档和数据生成的嵌入,需要存储在能够处理这种特定格式的专用数据库中。这些数据库被称为“向量存储".

向量存储不仅能够保存这些数据,还能执行一种特殊的搜索:在数据库中已有数据与我们提供的查询之间进行“相似性搜索”。

3)增强 LLM 提示词

接下来,RAG 代理会通过在上下文中添加相关的检索数据来增强你的输入(或提示词),让 LLM 在生成响应之前了解这些自定义数据。

你只需要负责第一步“处理外部数据”,Neuron 会为你提供工具包,让这一切变得简单。其他步骤会由 Neuron RAG 代理自动管理。

创建 RAG 代理

要创建 RAG,你需要除了 AI 提供商之外再附加一些组件,例如一个 向量存储,以及一个 嵌入提供方.

首先,让我们创建 RAG 类:

下面是一个 RAG 实现示例:

与 RAG 代理对话

设想你已经用想要连接到 RAG 代理的知识库填充了向量存储,现在你想要提问。查看 数据加载器 以了解 RAG 数据填充。

要开始执行一个 RAG,你需要调用 chat() 方法:

向你的 RAG 提供文档

一旦你定义好了 RAG 系统的组件,就该用已嵌入的文本块来填充向量数据库了。

Neuron 为你提供 数据加载器 帮助你只用几行代码搭建数据加载管道。你可以在下面看到一个示例。想进一步了解数据加载器,你应该查看 专门文档:

RAG + 工具

Neuron 的 RAG 类扩展了基础的 \NeuronAI\Agent 类。这意味着你的 RAG 始终是一个代理,你也可以在实现中附加工具并定义系统指令。

设想我们要实现一个能够根据用户数据给出锻炼建议的代理。下面是一个完整实现示例:

在上面的示例中,我们创建了一个能够向用户提供锻炼建议的 RAG 代理。我们可以把你提供的特定训练知识加载到向量存储中,这样代理就能利用我们附加的工具从数据库中检索到用户当前训练状态,并据此提供建议。

RAG 工作流

在下图中,你可以看到 Neuron 为 RAG 应用运行的完整工作流表示。了解这个结构有助于你更好地理解底层执行过程,并通过中间件挂钩该系统:

一旦 UserMessage 进入系统,它会按顺序运行:

  • PreProcessQueryNode:运行 预处理器 管道,例如 QueryTransformationPreProcessor 以增强输入提示词。

  • RetrieveDocumentsNode:执行 检索策略 ,从向量存储或外部数据源中获取信息

  • PostProcessDocumentsNode:运行 后处理器 管道,例如重排序

  • EnrichInstructionsNode:将最终文档添加到代理的系统提示词中

  • ChatNode:运行推理并收集 LLM 响应

  • ToolNode:如果代理附加了工具,模型最终可以请求执行这些工具。

最后,RAG 会把 LLM 消息返回给你。

RAG 中的文档和模式

向量数据库需要先知道元数据字段的类型,才能正确地索引或比较该字段。没有这些信息,一个数据库可能把 2026 存储为数字,而另一个则存储为文本。

一个 DocumentSchema 为每个向量存储提供对你的文档的统一理解。它属于向量存储,因为一个索引或集合中的每个文档都必须遵循同一契约。

文档加载和摄取在《将文档加载到 RAG》中单独介绍。

定义文档契约

声明那些需要已知类型、是必填项或将用于过滤器的字段。

使用 required() 当每个文档都必须包含一个非空值时使用。使用 filterable() 当该字段会出现在可移植过滤器中时使用。

元数据值
声明

字符串

DocumentField::string('name')

整数

DocumentField::integer('name')

浮点数

DocumentField::float('name')

Boolean

DocumentField::boolean('name')

字符串数组

DocumentField::strings('name')

整数数组

DocumentField::integers('name')

浮点数组

DocumentField::floats('name')

布尔数组

DocumentField::booleans('name')

整数同样也是浮点字段的有效值。数组必须包含同一种类型的值。

将模式附加到 RAG 向量存储

在 RAG 定义其向量存储的地方定义模式。这样可以让数据契约紧贴依赖它的数据库配置。

每个内置向量存储都接受可选的 schema 参数。更换后端时也可以使用同一个模式:

在创建新的数据库索引或集合之前创建模式。如果现有索引的字段映射不兼容,请重新创建它并重新索引其文档。

只声明数据库需要的内容

模式并不会移除文档的灵活性。未声明的 JSON 安全元数据仍然会被存储并返回。

当你需要以下至少一项保证时,就声明一个字段:

  • 每个文档都必须包含它;

  • 它的值必须具有已知类型;

  • 它必须能用于可移植过滤器。

由于其数据库类型未知,未声明的字段不能用于可移植过滤器。

sourceType 和 sourceName 是内置字符串字段。它们始终可过滤,并且不应在模式中声明。

定义过滤器

语义搜索会查找相似内容。过滤器决定哪些文档可以参与。静态检索过滤器在每个请求都必须限制在同一个租户、工作区或知识库中时非常有用。

被过滤的字段必须在向量存储模式中声明为可过滤。

中间件或其他工作流步骤添加的过滤器会与该作用域使用 AND 组合。它们可以缩小结果范围,但不能移除永久作用域。

比较

可移植过滤器在每个受支持的向量数据库中的含义都相同。

以下规则可防止不同数据库返回不同结果:

  • 范围比较仅适用于整数和浮点字段;

  • 当日期需要范围过滤时,应存储为 Unix 时间戳;

  • neq() 要求字段声明为 required();

  • 数组字段会被验证并存储,但不支持可移植过滤器;

  • 中的所有条件 FilterGroup::and() 都必须匹配;

  • in() 表示一个字段可以匹配列表中的任意一个值。

无效的字段、值和运算符会在请求到达数据库之前失败。

使用过滤器进行搜索或删除

在 RAG 检索流程之外与向量存储交互时,也使用同样的过滤器模型。

使用特定后端的过滤器

可移植 API 只包含在各数据库之间行为一致的操作。使用 Filter::raw() 来实现某个后端独有的功能。

原始过滤器会标记其向量存储类。另一个存储会拒绝它,而不是静默地改变其含义。

最后更新于