Investigadores eludieron ChatGPT Lockdown Mode mediante ventanas emergentes HTML

Check Point Research (CPR) encontró una forma de eludir el Lockdown Mode opcional de ChatGPT mediante las vistas previas de páginas HTML en bloques de código. Los investigadores afirmaron que el fallo podía exponer datos confidenciales y permitir potencialmente otros ataques.

Lockdown Mode añade protecciones para quienes manejan información muy confidencial. Cuando está activado, restringe las conexiones con servicios externos y limita o desactiva funciones como la navegación web en tiempo real, Deep Research, Agent Mode y las descargas de archivos. Así reduce el riesgo de que una inyección de instrucciones exponga datos.

Los investigadores atribuyeron la elusión a la forma en que ChatGPT gestionaba las ventanas emergentes en las vistas previas HTML. Aunque estas se ejecutaban en marcos aislados, CPR afirmó que los permisos aún permitían que las ventanas emergentes escaparan de esas protecciones. Al crear un marco anidado, los investigadores pudieron acceder a las funciones de ventanas emergentes y eludir las restricciones de la vista previa.

CPR señaló que el problema podía permitir el robo de datos y, potencialmente, el robo de credenciales o la distribución de malware. También describió un posible ataque de «cero clics», en el que aparece una ventana emergente sin que el usuario realice ninguna acción. Según los investigadores, el ataque podría originarse en una instrucción maliciosa, un GPT o un chat compartido, según el escenario.

CPR comunicó sus hallazgos a OpenAI, que añadió protecciones para desactivar el método. Los investigadores instaron a las organizaciones a supervisar el uso de la IA y la exposición de datos confidenciales, y a considerar las aplicaciones, los entornos de ejecución y los conectores que rodean al modelo como parte de la superficie de ataque de la IA.