Flock dice que una nueva herramienta frenará el abuso policial de sus cámaras, pero mantiene los detalles vagos

La empresa emergente de tecnología de vigilancia Flock anunció el jueves una serie de nuevas políticas y herramientas que, según dice, ayudarán a frenar el abuso de sus sistemas automatizados de lectura de matrículas y a que sus clientes policiales rindan cuentas. La empresa ahora recomienda a los departamentos de policía conservar los datos durante siete días en lugar de los 30 anteriores, introduce un “Modo Evidencia” que permite a los clientes conservar datos por más tiempo en casos excepcionales vinculados a un número de caso específico, y permite a los clientes limitar qué datos comparten con otras agencias según el tipo de delito bajo investigación.

La pieza central es “Audit Assistance”, una herramienta que Flock lanzó en abril y que detecta actividad anómala y la señala para revisión de un administrador, y que puede bloquear automáticamente a los usuarios marcados hasta que un administrador intervenga. Más de un tercio de los clientes de Flock la han activado desde su lanzamiento, y la empresa ahora exige que todos los clientes la habiliten antes de fin de año. Pero pese a que sus ejecutivos han promocionado sus capacidades, Flock no ha explicado en detalle cómo funciona realmente Audit Assistance, con qué datos fue entrenada, o qué cuenta exactamente como “actividad anómala”. Flock le dijo a TechCrunch que la herramienta no se basa en aprendizaje automático ni en IA, y la describió en cambio como una herramienta de datos que señala patrones de búsqueda atípicos —por ejemplo, un usuario que busca la misma matrícula bajo varios códigos de caso distintos—, y subrayó que una señal no confirma abuso, solo indica que amerita mayor investigación.

Los defensores de la privacidad siguen sin estar convencidos. Chad Marlow, de la Unión Estadounidense de Libertades Civiles (ACLU), dijo que Flock ha señalado arrestos recientes de agentes que hicieron mal uso del sistema como prueba de que la herramienta funciona, pero argumentó que “a menos que sepamos el número de agentes que abusan del sistema, no podemos concluir si Flock y sus herramientas de auditoría están atrapando al 95% de los infractores o al 5%”, y pidió una evaluación independiente de su eficacia. Cooper Quintin, de la Electronic Frontier Foundation, dijo que quizás ni siquiera importe si la herramienta funciona técnicamente si no hay consecuencias reales por el abuso cuando la misma agencia policial que lo comete es la que lo investiga, mientras que Rachel Levinson-Waldman, del Brennan Center, calificó las herramientas de auditoría obligatorias como un paso en la dirección correcta que aún necesita ser auditado externamente.

El anuncio llega tras años de casos reportados de abuso: a principios de esta semana, tres exagentes del alguacil de Georgia fueron arrestados y acusados de usar cámaras de Flock para acosar a personas con quienes habían tenido una relación personal, un caso que el alguacil local atribuyó en parte a que Audit Assistance ayudó a descubrirlo.

Por qué importa

Que una empresa autorregule su propia herramienta de vigilancia, sin verificación independiente de las tasas de falsos positivos o falsos negativos, deja a los departamentos de policía —y al público cuyas matrículas se escanean— a merced de la palabra de Flock de que el abuso realmente se está detectando.