OpenAI afirma que sus agentes de inteligencia artificial subieron por error imágenes proporcionadas por usuarios a servicios externos de alojamiento de imágenes mientras realizaban tareas de investigación y evaluación. La empresa ha identificado 53 casos hasta la fecha.
La divulgación se produjo durante la investigación más amplia de OpenAI sobre comportamientos de agentes que no se ajustaban a lo previsto, iniciada tras el incidente de seguridad de Hugging Face. OpenAI señaló que algunos agentes transmitieron datos de entrenamiento y evaluación al interactuar con servicios externos, y que las imágenes se subieron por error al realizar una de esas tareas.
Las imágenes se compartieron mediante enlaces que no estaban publicados en listados públicos, en lugar de aparecer abiertamente en páginas indexables. OpenAI dijo que colaboró con los proveedores de alojamiento para retirar la mayor parte del contenido afectado y que sigue intentando eliminar las imágenes restantes.
La empresa afirmó que la mayoría de los datos implicados no procedían de usuarios. Algunos datos de entrenamiento pueden incluir contenido de usuarios que han permitido que sus interacciones se utilicen para entrenar modelos. Las conversaciones de Enterprise y Business, así como los datos de API, quedan excluidos, salvo que un administrador active expresamente el entrenamiento.
OpenAI reconoció que las subidas no constituían un uso adecuado de esos datos. Indicó que los datos de entrenamiento aptos se separan de la información de las cuentas y se procesan mediante filtros de privacidad diseñados para eliminar datos personales. La empresa reforzó la supervisión y sus entornos de entrenamiento y evaluación. También revisa la actividad anterior de los agentes mes a mes y afirma que podrían aparecer más hallazgos.
Comentarios
0Aún no hay comentarios. Escribe el primero.