Gen afirma que los agentes de IA pueden ser manipulados mediante correos electrónicos, sitios web y complementos maliciosos para ejecutar comandos, enviar datos fuera de sus entornos o borrar archivos. En un experimento controlado, investigadores de Gen Threat Labs provocaron esas acciones al presentar contenido no confiable a un agente. Según los investigadores, no hizo falta ninguna vulnerabilidad de software.
La empresa está desarrollando Agent Trust Hub (ATH), un conjunto de herramientas para evaluar las capacidades de los agentes y controlar su actividad. Gen dice que incluye análisis de habilidades, un mercado seleccionado y comprobaciones que los agentes pueden usar para evaluar habilidades. A principios de este año, investigadores de Gen descubrieron que el 12 % de las habilidades de ClawHub eran maliciosas en ese momento. Gen también anunció una alianza con Vercel para incorporar verificación y calificaciones de riesgo visibles en skills.sh.
ATH también incluye VPN for Agents, que Gen describe como una VPN centrada en la IA y basada en la infraestructura de Norton VPN. Su diseño de múltiples túneles permite que varios agentes utilicen conexiones protegidas independientes, incluso desde distintos países.
Para asistentes de programación con IA, Sage, de Gen, puede interceptar comandos de shell, operaciones con archivos y solicitudes web antes de que se ejecuten. Gen afirma que evalúa las acciones mediante la reputación de las URL, heurísticas de amenazas, detección de inyección de instrucciones y comprobaciones de la cadena de suministro; después, puede permitir una acción, consultar al usuario o denegarla. Sage es compatible con Claude Code, Cursor, VS Code, OpenClaw y OpenCode, y es de código abierto.
Gen afirma que Norton AI Agent Protection, incluido en Norton 360, supervisa la actividad de los agentes compatibles. La cobertura depende de que la integración permita ver una acción y que el motor de seguridad pueda detenerla. Gen también publicó AARTS, una especificación abierta para que las plataformas expongan eventos de seguridad y apliquen las decisiones de los motores de seguridad.
Comentarios
0Aún no hay comentarios. Escribe el primero.