Microsoft ha presentado funciones de seguridad para supervisar y controlar los agentes de IA que utilizan las empresas. La compañía advierte que incluso los modelos avanzados pueden comportarse de forma impredecible.
La nueva función Guardian Agents forma parte de Project Perception, que Microsoft presentó en junio. El proyecto incluía inicialmente tres tipos de agentes: un equipo rojo que simula ataques, un equipo azul que los detecta y evalúa las vulnerabilidades, y un equipo verde que las corrige. Guardian Agents está diseñado para supervisar los agentes que utiliza una empresa.
Hayete Gallot, responsable del negocio de seguridad de Microsoft, dijo que no se puede confiar en los modelos de frontera porque son impredecibles y están entrenados para completar tareas, no para seguir las normas de una organización ni ejercer criterio. El CEO de Microsoft, Satya Nadella, también ha defendido que las empresas utilicen sistemas de supervisión independientes de los proveedores de IA que suministran sus agentes, sobre todo cuando estos pueden acceder a datos sensibles y realizar acciones críticas.
Microsoft ha añadido a Microsoft Defender una función de detección capaz de identificar hasta 60 tipos de agentes que los empleados llevan al trabajo, entre ellos Claude Code, Codex y OpenClaw. Otras funciones pueden limitar el acceso de los agentes a datos y sistemas, ajustar sus permisos según la tarea y exigir aprobación humana para decisiones consideradas arriesgadas.
Microsoft también se ha sumado a Open Agent Safety Platform de Nvidia, respaldada por más de 100 empresas tecnológicas. La plataforma está diseñada para aislar agentes en entornos seguros y supervisar o detener su comportamiento mediante hardware. El anuncio de Microsoft llega después de que presentara los PC Surface Laptop Ultra, diseñados para agentes e incorporados con chips Nvidia y controles de seguridad para agentes.
Comentarios
0Aún no hay comentarios. Escribe el primero.