For the complete documentation index, see llms.txt. This page is also available as Markdown.

中间件

在每个步骤控制并自定义智能体执行

什么是中间件

中间件提供了一种挂钩工作流执行的方式,因此也可以作用于 Agent 和 RAG,因为它们本质上也是工作流。

核心的工作流执行涉及根据其他节点返回的事件来调用节点。中间件暴露出钩子,以便在执行过程中介入 之前之后 节点的执行:

中间件可以做什么?

控制

转换提示词、工具选择和输出格式。

护栏

添加重试、速率限制,实施防护措施,拒绝提示词。

监控

通过日志、分析和调试跟踪 Agent 行为。

创建中间件

你可以使用下面的命令创建一个中间件类:

项目中将会创建一个带有默认中间件结构的新类:

注册中间件

如果你想将中间件分配给特定节点,可以在定义工作流时覆盖 middleware 方法:

你也可以将多个中间件分配给一个节点,定义为数组:

全局中间件

如果你希望中间件在每个节点之前和之后运行,可以将其添加到工作流中的全局中间件栈:

示例

Neuron 为常见用例提供了预构建的中间件,例如工具审批或上下文摘要。你可以在 Agent 部分查看它们:

中间件

最后更新于