Una voz conocida ya no demuestra la identidad

Una voz conocida ya no puede demostrar quién habla, según Adam Boynton, enterprise strategy manager de Jamf. Afirma que las organizaciones deben prepararse para la clonación de voz y la ingeniería social impulsada por IA.

Unos segundos de audio de una grabación de una conferencia o de una presentación de resultados pueden bastar para crear un clon de voz convincente. La tecnología es tan accesible que incluso los atacantes con recursos limitados pueden utilizarla. Una voz clonada podría convencer a un empleado para aprobar un pago o ayudar a quien llama a obtener acceso a una cuenta.

Boynton recomienda usar un canal de verificación separado para todo lo que implique transferir dinero o conceder acceso. También advierte que las organizaciones suelen revisar las herramientas de IA que compran, pero pasan por alto funciones de IA integradas en aplicaciones comunes, incluidos paquetes de desarrollo que el departamento de TI no ha aprobado.

Los agentes de IA pueden actuar como los usuarios y heredar sus permisos. El tráfico cifrado, las funciones que se ejecutan localmente y los dispositivos móviles también pueden ser difíciles de supervisar. Bloquear el uso de la IA puede trasladarlo a dispositivos y cuentas personales que la organización no puede ver. Boynton propone en su lugar reglas claras, controles en los dispositivos donde se utiliza la IA y registros que indiquen qué estaba permitido.

Boynton hablará sobre clonación de voz, ingeniería social impulsada por IA y la evolución de la seguridad en Connect26: AI i kundmötet, el 2 de diciembre.