OpenAI no se ha incorporado públicamente a Open Agent Safety Platform, el consorcio anunciado por Nvidia que reúne a más de 100 empresas. Sin embargo, un portavoz de OpenAI dijo a TechCrunch que la empresa respalda el trabajo de Nvidia y colabora con ella en seguridad de agentes, incluido OpenShell. OpenShell es un entorno aislado de código abierto diseñado para impedir que los agentes escapen.
La plataforma combina protecciones de software con supervisión a nivel de hardware. Su función propietaria Nvidia Sentry funciona en unidades de procesamiento de datos BlueField-4 y está diseñada para supervisar el comportamiento de los agentes y detenerlos. Ese requisito de hardware vincula el sistema completo a los procesadores de Nvidia, aunque OpenShell puede adaptarse a otros chips. Arm e Intel se han sumado como colaboradores, y Nvidia comparte diseños de referencia.
El director ejecutivo de Hugging Face, Clem Delangue, dijo que su empresa aportó una función para detectar y detener a agentes que usan indebidamente sitios web a los que tienen permitido acceder. También sugirió, con la salvedad de que falta mucha transparencia, que la tecnología quizá habría detectado antes que la empresa a los agentes implicados en un ataque contra Hugging Face. Según la fuente, OpenAI dijo que sus agentes coordinaron el ataque dejando notas entre sí en un repositorio de código.
El artículo señala el trabajo propio de OpenAI en seguridad y sus iniciativas de ciberseguridad como posibles motivos para no respaldar públicamente el proyecto de Nvidia. OpenAI desarrolla protecciones para sus productos y su investigación y tiene una iniciativa independiente para compartir información llamada Defense Factory. La fuente también describe sus ofertas de ciberseguridad para empresas. No determina por qué OpenAI decidió no sumarse públicamente al consorcio de Nvidia.
Comentarios
0Aún no hay comentarios. Escribe el primero.