La separación entre la lógica y la búsqueda potencia la escalabilidad de los agentes de inteligencia artificial al desvincular los flujos de trabajo centrales de las estrategias de ejecución. La transición desde prototipos de inteligencia artificial generativa hacia agentes listos para producción presenta un desafío de ingeniería específico: la fiabilidad. Los modelos de lenguaje de gran tamaño (LLMs) son estocásticos por naturaleza. Un comando que funcione una vez puede fallar en un segundo intento. Para mitigar esto, los equipos de desarrollo suelen envolver la lógica empresarial central en complejos bucles de manejo de errores, reintentos y caminos alternativos.

Este enfoque genera un problema de mantenimiento. El código que define lo que debe hacer un agente se mezcla inextricablemente con el código que define cómo manejar la imprevisibilidad del modelo. Un nuevo marco propuesto por investigadores de Asari AI, MIT CSAIL y Caltech sugiere que se requiere un nuevo estándar arquitectónico para escalar flujos de trabajo de agentes en el ámbito empresarial.

La investigación introduce un modelo de programación llamado Probabilistic Angelic Nondeterminism (PAN) junto con una implementación en Python denominada ENCOMPASS. Este método permite a los desarrolladores escribir el 'camino feliz' del flujo de trabajo de un agente mientras delegan las estrategias de inferencia (como la búsqueda en haz o retroceso) a un motor de ejecución separado. Esta separación de preocupaciones ofrece una posible ruta para reducir la deuda técnica y mejorar el rendimiento de las tareas automatizadas.

El problema de entrelazamiento en el diseño de agentes

Los enfoques actuales para la programación de agentes a menudo confunden dos aspectos de diseño distintos. El primero es la lógica del flujo de trabajo central, que es la secuencia de pasos necesaria para completar una tarea empresarial. El segundo es la estrategia de inferencia, que determina cómo el sistema navega la incertidumbre, como generar múltiples borradores o verificar salidas contra un criterio. Cuando estos se combinan, el código resultante se vuelve frágil. Implementar una estrategia como el muestreo 'mejor de N' requiere envolver toda la función del agente en un bucle. Pasar a una estrategia más compleja, como la búsqueda en árbol o el refinamiento, típicamente requiere una reescritura estructural completa del código del agente.

Los investigadores argumentan que este entrelazamiento limita la experimentación. Si un equipo de desarrollo desea cambiar de un muestreo simple a una estrategia de búsqueda en haz para mejorar la precisión, a menudo debe reingenierizar el flujo de control de la aplicación. Este alto costo de experimentación significa que los equipos frecuentemente se conforman con estrategias de fiabilidad subóptimas para evitar la sobrecarga de ingeniería.

Desvinculando la lógica de la búsqueda para aumentar la escalabilidad de los agentes de inteligencia artificial

El marco ENCOMPASS aborda esto al permitir a los programadores marcar 'ubicaciones de falta de fiabilidad' dentro de su código utilizando un primitivo llamado branchpoint(). Estos marcadores indican dónde ocurre una llamada LLM y dónde la ejecución podría divergir. El desarrollador escribe el código como si la operación fuera a tener éxito. En tiempo de ejecución, el marco interpreta estos puntos de ramificación para construir un árbol de búsqueda de posibles caminos de ejecución. Esta arquitectura permite lo que los autores denominan agentes 'programa-en-control'. A diferencia de los sistemas 'LLM-en-control', donde el modelo decide toda la secuencia de operaciones, los agentes 'programa-en-control' operan dentro de un flujo de trabajo definido por el código. El LLM se invoca solo para realizar subtareas específicas. Esta estructura es generalmente preferida en entornos empresariales por su mayor previsibilidad y auditabilidad en comparación con los agentes totalmente autónomos.

Al tratar las estrategias de inferencia como una búsqueda sobre los caminos de ejecución, el marco permite a los desarrolladores aplicar diferentes algoritmos, como búsqueda en profundidad, búsqueda en haz o búsqueda de árbol de Monte Carlo, sin alterar la lógica empresarial subyacente.

Impacto en la migración de legado y la traducción de código

La utilidad de este enfoque es evidente en flujos de trabajo complejos como la migración de código legado. Los investigadores aplicaron el marco a un agente de traducción de Java a Python. El flujo de trabajo implicaba traducir un repositorio archivo por archivo, generando entradas y validando la salida a través de la ejecución. En una implementación estándar de Python, agregar lógica de búsqueda a este flujo de trabajo requería definir una máquina de estados. Este proceso oscurecía la lógica empresarial y dificultaba la lectura o el análisis del código. Implementar una búsqueda en haz requería que el programador descompusiera el flujo de trabajo en pasos individuales y gestionara explícitamente el estado a través de un diccionario de variables.

Utilizando el marco propuesto para aumentar la escalabilidad de los agentes de inteligencia artificial, el equipo implementó las mismas estrategias de búsqueda insertando declaraciones branchpoint() antes de las llamadas LLM. La lógica central se mantuvo lineal y legible. El estudio encontró que aplicar búsqueda en haz tanto a nivel de archivo como de método superó a estrategias de muestreo más simples. Los datos indican que separar estas preocupaciones permite mejores leyes de escalado. El rendimiento mejoró linealmente con el logaritmo del costo de inferencia. La estrategia más efectiva encontrada, la búsqueda en haz de grano fino, también fue la que habría sido más compleja de implementar utilizando métodos de codificación tradicionales.

Eficiencia de costos y escalado de rendimiento

Controlar el costo de la inferencia es una preocupación principal para los responsables de datos que gestionan el P&L de proyectos de inteligencia artificial. La investigación demuestra que algoritmos de búsqueda sofisticados pueden ofrecer mejores resultados a un costo más bajo en comparación con simplemente aumentar el número de bucles de retroalimentación. En un estudio de caso que involucra el patrón de agente 'Reflexion' (donde un LLM critica su propia salida), los investigadores compararon escalar el número de bucles de refinamiento contra utilizar un algoritmo de búsqueda de mejor primero. El enfoque basado en búsqueda logró un rendimiento comparable al método de refinamiento estándar, pero a un costo reducido por tarea. Este hallazgo sugiere que la elección de la estrategia de inferencia es un factor para la optimización de costos. Al externalizar esta estrategia, los equipos pueden ajustar el equilibrio entre el presupuesto de cómputo y la precisión requerida sin reescribir la aplicación. Una herramienta interna de bajo riesgo podría utilizar una estrategia de búsqueda barata y codiciosa, mientras que una aplicación orientada al cliente podría emplear una búsqueda más costosa y exhaustiva, todo funcionando sobre la misma base de código.

Adoptar esta arquitectura requiere un cambio en cómo los equipos de desarrollo ven la construcción de agentes. El marco está diseñado para trabajar en conjunto con bibliotecas existentes como LangChain, en lugar de reemplazarlas. Se sitúa en un nivel diferente de la pila, gestionando el flujo de control en lugar de la ingeniería de prompts o interfaces de herramientas. Sin embargo, el enfoque no está exento de desafíos de ingeniería. El marco reduce el código necesario para implementar la búsqueda, pero no automatiza el diseño del propio agente. Los ingenieros aún deben identificar las ubicaciones correctas para los puntos de ramificación y definir criterios verificables de éxito.