Cómo abordan los desarrolladores los cuellos de botella de la IA con múltiples agentes

A medida que disminuyen las mejoras que aporta aumentar el tamaño de los modelos de IA, los desarrolladores recurren a sistemas multiagente, en los que dos o más modelos comparten el trabajo. Sin embargo, coordinar a los agentes puede aumentar la latencia y el consumo de tokens, además de crear nuevas vías para que se propaguen los errores.

Un orquestador central puede dividir una solicitud en tareas más pequeñas, asignarlas a los agentes y combinar sus resultados. Pero hacer pasar todas las interacciones por un único centro puede convertirlo en un punto único de fallo y añadir retrasos de procesamiento. Este enfoque también puede limitar la flexibilidad de los agentes y consumir tokens cuando el coordinador asigna tareas y repite el contexto.

Compartir entre agentes historiales de conversación sin resumir puede aumentar aún más el consumo de tokens. El artículo señala que un equipo de desarrollo de software de Amazon acumuló inesperadamente 1,8 millones de dólares en costes de tokens en un proyecto para asociar datos de autores con fichas de libros en línea. También menciona el rumor de una factura mensual de 500 millones de dólares en Claude AI para una gran empresa sin identificar; presenta esa cifra como un rumor, no como un coste confirmado.

Según el artículo, pasar de 1 agente a 3 aumenta la complejidad de coordinación en un factor de 9, y pasar a 5 la aumenta en un factor de 25. También atribuye el 36,9 % de los fallos de los sistemas multiagente a desajustes de coordinación, y cita una investigación que el texto proporcionado no identifica.

Entre las medidas propuestas figuran máquinas de estados controladas por código que deciden qué agente actúa, límites de tokens, tiempos de espera y traspasos secuenciales. El artículo las presenta como formas de limitar los intercambios innecesarios entre agentes y los costes descontrolados; no demuestra que eliminen los fallos de coordinación.