Investigadores de Google y Google DeepMind han creado el DeepMind Institute para impulsar el debate público sobre la inteligencia artificial general (AGI). El instituto incluye como directores al cofundador de DeepMind Shane Legg, al ejecutivo de Google James Manyika y al presidente de Google DeepMind Demis Hassabis. Legg ejercerá como editor jefe.
El instituto pretende reunir distintos puntos de vista de Google, Google DeepMind y la comunidad investigadora mundial. Su primera colección contiene cuatro ensayos sobre políticas económicas para una posible disrupción causada por la AGI, el razonamiento legible de los modelos, principios para el bienestar humano y marcos para evaluar modelos de IA de frontera.
En uno de los ensayos, los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan sostienen que la reducción de la transparencia de los modelos avanzados no es inevitable. Proponen limitar la “opaque serial depth”, es decir, el cálculo secuencial realizado sin una traza de razonamiento legible, o exigir a los desarrolladores que demuestren que los sistemas menos transparentes siguen siendo supervisables.
En otro ensayo, Hassabis propone un organismo de estándares para la IA de frontera liderado por Estados Unidos. Al principio, los desarrolladores presentarían voluntariamente sus modelos para revisión hasta 30 días antes del lanzamiento. Más adelante, superar sus pruebas podría convertirse en un requisito para desplegar modelos de frontera en United States. El organismo podría usar evaluaciones independientes y no reveladas, llamadas “held-out”. Hassabis también planteó posibles ralentizaciones coordinadas si la situación lo exige.
Comentarios
0Aún no hay comentarios. Escribe el primero.