Por qué importa la estrategia humana a medida que los agentes de IA ganan autonomía

A medida que los agentes de inteligencia artificial (IA) asumen más tareas y decisiones, las empresas deben pensar con cuidado cómo hacer que esos sistemas trabajen juntos, sostiene Marie Aiello, de TechRadar.

Las herramientas de IA ya pueden analizar audiencias, crear y adaptar contenido de marketing, comprobarlo frente a los requisitos y evaluar los resultados. Al conectar estos pasos, una acción podría activar automáticamente la siguiente. Sin embargo, un flujo de trabajo puede seguir sus instrucciones y aun así producir malos resultados si sus objetivos, contexto o conexiones entre decisiones están mal diseñados.

Por ejemplo, un sistema podría dirigirse a personas con probabilidades de responder a una oferta y pasar por alto a clientes con quienes la empresa quiere desarrollar una relación a largo plazo. Un agente de contenido podría optimizar los clics de una manera que no encaje con el rumbo de la marca. Un sistema que evalúe el rendimiento también podría recomendar cambios basándose en una métrica que no refleje un objetivo empresarial más amplio. Aiello sostiene que estos resultados pueden deberse a cómo se configuró el sistema, y no a que la IA haya dejado de seguir las instrucciones.

Las empresas ya afrontaron un desafío parecido con el software empresarial especializado. Los equipos a menudo tuvieron que conectar plataformas separadas, conciliar información contradictoria y trasladar contexto entre sistemas. La adopción generalizada de agentes de IA podría reproducir ese problema de coordinación, con agentes que utilizan datos, instrucciones y objetivos distintos.

Aiello afirma que las empresas deben decidir dónde pueden actuar los agentes de forma independiente, cuándo basta con supervisarlos y cuándo debe intervenir una persona. El nivel adecuado puede variar según el flujo de trabajo y las consecuencias de cada decisión. A medida que los modelos de IA cambian rápidamente y se vuelven más accesibles, sostiene, el conocimiento de una organización sobre sus operaciones, clientes y objetivos podría ser más difícil de reproducir que el acceso a un modelo concreto.