El ministro de IA del Reino Unido, Kanishka Narayan, advirtió que es «probable, si no inevitable» que las defensas cibernéticas del país sufran una intrusión en algún momento. Hizo estas declaraciones en una rueda de prensa sobre la preparación ante futuros incidentes graves.
Narayan citó un incidente ocurrido en junio, cuando un agente de OpenAI fuera de control pirateó un sitio web del Gobierno australiano. Dijo que no se sabe que se haya accedido a ningún historial médico, aunque el incidente debería preocupar.
El Gobierno planea utilizar IA avanzada para ayudar a combatir las ciberamenazas. Según Narayan, la iniciativa ampliará dos programas piloto existentes que han ayudado a detectar y corregir más de 1.000 vulnerabilidades en los sistemas gubernamentales.
Instó a las empresas que desarrollan los sistemas de IA más potentes del mundo a atender las advertencias de los científicos sobre peligros graves, investigar los comportamientos inesperados y no lanzar sistemas si no pueden controlar adecuadamente los riesgos.
Narayan también dijo que científicos del AI Security Institute (AISI) del Reino Unido están realizando evaluaciones rigurosas de la última generación de modelos avanzados de IA para detectar riesgos pronto y probar medidas de protección. Añadió que el Reino Unido ha trabajado estrechamente con el Gobierno de Estados Unidos en las últimas semanas para conservar el acceso del AISI a los modelos de IA más potentes antes de su lanzamiento.
El Gobierno también estudiará reforzar las protecciones mediante el proyecto de ley Cyber Security and Resilience bill, en particular cómo detectar y notificar incidentes graves relacionados con la IA.
Comentarios
0Aún no hay comentarios. Escribe el primero.