Middleware

Controla y personaliza la ejecución del agente en cada paso

¿Qué es un middleware?

Middleware proporciona una forma de interceptar la ejecución del flujo de trabajo y, por lo tanto, también Agent y RAG, ya que ellos también son flujos de trabajo.

La ejecución central del Workflow implica llamar a nodos según los eventos devueltos por otros nodos. Middleware expone ganchos para intervenir en antes y después la ejecución de los nodos:

¿Qué puede hacer el middleware?

Controlar

Transformar prompts, la selección de herramientas y el formato de salida.

Salvaguardas

Añadir reintentos, límites de tasa, implementar guardrails, rechazo de prompts.

Monitorizar

Rastrear el comportamiento del agente con registro, analíticas y depuración.

Creación de middleware

Puedes usar el siguiente comando para crear una clase de middleware:

Unix

vendor/bin/neuron make:middleware CustomMiddleware

Windows

.\vendor\bin\neuron make:middleware CustomMiddleware

Se creará una nueva clase en tu proyecto con la estructura predeterminada de middleware:

<?php

namespace App\Neuron\Middleware;

class CustomMiddleware implements WorkflowMiddleware
{
    /**
     * Se ejecuta antes de que el nodo se ejecute.
     */
    public function before(NodeInterface $node, Event $event, WorkflowState $state): void
    {
        // ...
    }
    
    /**
     * Se ejecuta después de que el nodo se ejecute.
     */
    public function after(NodeInterface $node, Event $result, WorkflowState $state): void
    {
        // ...
    }
}

Registro de middleware

Si deseas asignar middleware a nodos específicos, puedes sobrescribir el middleware método al definir el flujo de trabajo:

class MyWorkflow extends Workflow
{
    /**
     * Define el middleware de los nodos.
     */
    protected function middleware(): array
    {
        return [
            NodeOne::class => new CustomMiddleware(),
        ];
    }
}

También puedes asignar varios middleware a un nodo, definiendo un arreglo:

class MyWorkflow extends Workflow
{
    /**
     * Define el middleware de los nodos.
     */
    protected function middleware(): array
    {
        return [
            NodeOne::class => [
                new CustomMiddleware(),
                new AnotherMiddleware(),
            ]
        ];
    }
}

Middleware global

Si quieres que el middleware se ejecute antes y después de cada nodo, puedes añadirlo a la pila global de middleware en el flujo de trabajo:

class MyWorkflow extends Workflow
{
    /**
     * Define el middleware global.
     */
    protected function globalMiddleware(): array
    {
        return [
            new CustomMiddleware(),
        ];
    }
}

Ejemplos

Neuron proporciona middleware preconstruido para casos de uso comunes, como la aprobación de herramientas o la resumición de contexto. Puedes verlos en la sección Agent:

Middleware