Un patrón "adversarial" bloquea la detección de cámaras de vigilancia

Bill Swearingen, un profesional de ciberseguridad radicado en Kansas City, pasó el último año ejecutando alrededor de 31 millones de pruebas para desarrollar patrones generados por computadora que impiden que las cámaras de vigilancia detecten lo que cubren. Su proyecto, llamado noRecognition, utiliza un modelo de aprendizaje por refuerzo que se entrena a sí mismo para identificar qué patrones visuales logran burlar algoritmos de detección de cámaras específicos, un proceso que Swearingen describe como enseñarle al modelo a pintar.

Swearingen, cofundador del grupo de ciberseguridad SecKC de Kansas City, señaló que los patrones no impiden que las cámaras graben; en cambio, interfieren con la capacidad de la cámara para identificar a las personas, vehículos u objetos que cubren, de modo que no se activa ninguna alerta de detección. El modelo ya puede producir patrones que burlan los 11 algoritmos de detección de código abierto que Swearingen probó, incluido el software que impulsa los lectores de matrículas de Flock, las cámaras corporales de Axon y Clearview AI. Según explicó, el modelo genera nuevos patrones cada minuto, y cada lote mejora sobre el anterior.

Swearingen dijo que desarrolló la herramienta porque su ciudad natal está cubierta de cámaras de vigilancia a las que nunca dio su consentimiento, y lo comparó con el uso que hace el gobierno de la foto de su licencia de conducir para reconocimiento facial. Recordó haberse sentido incómodo al asistir a una protesta el año pasado por la cantidad de cámaras que podían rastrear a quienes ejercían su derecho a la libre expresión. “La privacidad es un derecho fundamental”, dijo Swearingen a TechCrunch, y describió los patrones como una forma de que las personas dejen de ser rastreadas.

El viernes, en la conferencia de ciberseguridad Def Con en Las Vegas, Swearingen realizó la primera prueba pública y en el mundo real del proyecto: con la ayuda de Donut Media, cubrió un Toyota Yaris del 2009 con uno de sus patrones más recientes y demostró que podía burlar la detección de una cámara de Flock, aunque señaló que las ruedas seguían siendo un desafío. Donut Media dijo que el video de la demostración se publicará en las próximas semanas.

noRecognition tiene en marcha una campaña de financiamiento colectivo para producir mercancía inicial, como camisetas y sudaderas con los patrones impresos, y Swearingen dijo que existe la posibilidad de ofrecer más adelante recubrimientos para vehículos con los patrones. Señaló que mantiene sus patrones más efectivos fuera de internet para que los fabricantes de cámaras no puedan aprender a burlarlos, y remarcó que cada fallo solo hace que el modelo subyacente siga mejorando.

Por qué importa

El proyecto es una primera muestra de que las personas pueden contrarrestar la vigilancia algorítmica sin necesidad de un cambio legal o de política pública, en un momento en que los lectores de matrículas y las cámaras de reconocimiento facial se multiplican en ciudades de Estados Unidos. Si el enfoque logra escalar más allá de un proyecto individual, podría complicar los sistemas de vigilancia policial y comercial que dependen de la detección automatizada en lugar de la revisión humana.