La ingeniería inversa revela cómo funciona la búsqueda con IA de Flock

Los periodistas de Wired han sometido a ingeniería inversa una parte de la interfaz del software de Flock, lo que permite conocer mejor las herramientas disponibles para los agentes de policía. Flock opera una red de lectores de matrículas y cámaras, con unas 120.000 unidades instaladas en Estados Unidos.

La interfaz incluye búsquedas por tipo de vehículo, color y características. Una consulta de “formato libre” puede buscar casi cualquier cosa que atraviese un fotograma de vídeo, aunque requiere una cámara de vídeo completa y no un lector de matrículas.

Wired también descubrió una herramienta de “AI-powered watch list”. Permite someter una zona de una ciudad a vigilancia continua mediante vídeo hasta detectar a una persona que coincida con una descripción, como “persona con uniforme médico”.

Flock advierte de que la IA puede cometer errores, pero el software no ofrece una forma clara de detectar la información incorrecta ni de medir su grado de inexactitud. Los agentes pueden clasificar los resultados según su relevancia y precisión, y esos comentarios se utilizan para perfeccionar la página de resultados. Algunos términos relacionados con la raza, la etnia y la religión están bloqueados.

Antes de acceder al software, los usuarios aceptan no utilizarlo de forma ilegal, dañina o abusiva. El acuerdo también indica que todas las consultas y los metadatos se registran con fines de seguridad y auditoría. Flock ha limitado el tiempo de conservación de los datos, pero sigue afrontando preguntas de las autoridades estatales y del público sobre su uso legítimo.