Flock Dice Que Sus Cámaras Funcionaron 'Correctamente' Cuando La Policía Me Rastreó y Emboscó Sin Razón

      Captura de pantalla

      

       Departamento de Policía de Plymouth

      

      

      

      

      

      

       Las noticias y reseñas de autos más importantes, sin tonterías

      

      

      

      

      

      Hasta ahora, millones de personas han visto nuestra historia sobre cómo una serie de errores entre Flock Safety y las fuerzas del orden llevaron a la policía a rastrearme durante días a través de cámaras automáticas de matrículas y emboscarme en una detención coordinada. Millones más han visto las imágenes de la cámara corporal del incidente que obtuvimos y publicamos. Se ha convertido en parte de una conversación aún más amplia y acalorada sobre la privacidad en América, y una semana después, he aprendido mucho más sobre cómo y por qué sucedió, incluso de Flock mismo.

      Lo que descubrí es que la clara combinación de error humano, las limitaciones del sistema impulsado por IA de Flock y una falta general de salvaguardias que llevaron a que me detuvieran bajo sospecha de robo de auto no fue una tormenta perfecta. Es una situación que ha sucedido, puede suceder y seguirá sucediendo a cualquiera hasta que se realicen cambios a gran escala tanto por parte de Flock como de las fuerzas del orden, ninguno de los cuales parece saber exactamente cómo trabajar juntos para prevenirlo. Y de hecho, acaba de suceder de nuevo.

      Mientras tanto, nuestra historia ya ha llevado al consejo de la ciudad de Plymouth, MN, donde vivo y donde ocurrió la detención, a abrir una conversación sobre el uso de cámaras Flock dentro de la ciudad. El Departamento de Policía de Plymouth tiene un portal de transparencia como parte de su configuración de Flock y señala que actualmente hay 18 cámaras en la ciudad y han leído más de 580,000 matrículas en los últimos 30 días con más de 14,800 coincidencias en la lista de búsqueda, de las cuales yo fui una, y 45 búsquedas manuales de usuarios.

      Cómo Sucedió

      Un breve resumen: hace unas semanas, había llevado el Range Rover de $155,000 que estaba probando para hacer algunos mandados con mi esposa en Plymouth, Minnesota. Estaba retrocediendo de un espacio de estacionamiento frente a mi Kohl's local cuando cuatro patrullas llegaron gritando e “iniciaron un bloqueo y pin en el vehículo”, como dice el informe policial. Con las manos en sus armas, los oficiales nos ordenaron salir del vehículo, nos registraron y eventualmente nos dijeron que la matrícula del Range Rover—Nueva Jersey 34 10 DTM—era robada, sospechaban que el vehículo en sí también era robado, y habían utilizado cámaras Flock para rastrearme durante los últimos dos días.

      Sería algo bastante extraño que Jaguar Land Rover prestara un auto con matrículas robadas a un periodista para reseñarlo, así que sabía que eso no podía ser cierto, pero los oficiales estaban convencidos de que lo era. Se necesitaron unas cuantas llamadas a JLR y a la empresa de gestión de flotas de JLR mientras nos mantenían en la escena, además de una entrevista de seguimiento con el jefe de policía de Plymouth para averiguar qué había sucedido.

      Una matrícula de fabricante de Nueva Jersey similar—34 03 DTM—había sido reportada como robada en California (de hecho, fue perdida por Land Rover durante una sesión de fotos, descubrí más tarde). Esa matrícula “robada” fue ingresada en la base de datos del Centro Nacional de Información Criminal (NCIC) faltando los dos dígitos del medio, que son más pequeños que el resto de los caracteres en la matrícula física. Solo 34 DTM.

      Joel Feder

      Flock utiliza datos del NCIC para marcar matrículas sospechosas, y cuando vio la mía, su sistema de visión por IA ignoró el “10” en el medio de mi matrícula y alertó a la policía de una coincidencia. Y finalmente, cuando la policía recibió esa alerta y vio la foto que Flock había tomado de mi matrícula, donde el 10 es visible, no ingresaron la secuencia completa 34 10 DTM en su sistema para verificar. Tanto los humanos como las máquinas estaban fijados en 34 DTM. Fijación del objetivo, supongo. Ups.

      Toda la secuencia fue tan absurda que inicialmente llamé a la situación un caso extremo dentro de un caso extremo que la red de cámaras de IA de Flock no pudo manejar, pero acaba de suceder de nuevo.

      Tim Esterdahl/Pickup Truck + SUV Talk

      El miércoles, el colega periodista automotriz Tim Esterdahl, editor de Pickup Truck + SUV Talk, fue detenido por dos oficiales en Scotts Bluff, Nebraska, mientras conducía su Range Rover Sport de $105,000 que JLR le prestó para reseñar. ¿Las matrículas en él? Sí: Nueva Jersey 34 08 DTM.

      El oficial a cargo le informó que las matrículas del vehículo habían sido reportadas como robadas. Habiendo visto nuestra historia, Esterdahl a su vez se la mostró a los oficiales para demostrarles que no era un ladrón maestro. Dice que el oficial reaccionó con calma, sin registros, sin manos en las armas, y después de aproximadamente una hora también fue liberado. Pero vale la pena señalar que los oficiales que me detuvieron predijeron que esto sucedería: cualquier auto con una matrícula de Nueva Jersey con la secuencia 34 ## DTM seguiría siendo marcado por Flock porque eso es lo que estaba buscando.

      Jaguar Land Rover tiene varios vehículos con una secuencia de matrícula 34 ## DTM circulando por el país como préstamos para periodistas, concesionarios u otros usos corporativos. Por su parte, un portavoz me dijo que han estado intentando intercambiarlos y corregir el informe policial original en California. Pero no sucedió a tiempo para Esterdahl.

      Joel Feder

      Lo que Dice Flock

      No me puse en contacto con Flock antes de publicar la primera historia porque no era necesario publicar mi relato de primera mano: los oficiales literalmente me mostraron la aplicación Flock en su teléfono y explicaron cómo la usaron. Pero después de que la publicamos, escuché de alguien con conocimiento interno que Flock estaba muy preocupado por la atención que estaba recibiendo, y eventualmente, tuve múltiples llamadas telefónicas con el Director de Comunicaciones de Flock, Joshua Thomas.

      Thomas me dijo: “Solo te estoy diciendo que mi intención no era tratar de obtener cobertura o defender el sistema o lo que sea, era legítimamente tratar de entender a alguien que ha experimentado algo que tú experimentaste. Me encantaría escuchar tu punto de vista. Pareces muy racional sobre todo esto”.

      La pregunta obvia era que las cámaras Flock estaban buscando 34 DTM, y la matrícula del auto que estaba conduciendo era 34 10 DTM. ¿Por qué eso fue marcado como una coincidencia?

      “La forma en que funciona el ML [aprendizaje automático] es que leyó correctamente lo que se suponía que debía leer. Se le alimentaron esos caracteres que dijiste, 34 DTM, y devolvió [un resultado] con los caracteres, 34 DTM”, dijo Thomas. “Se le preguntó, ¿puedes encontrar esto? Y lo encontró. Simplemente no dijo si hay más aquí, entonces no lo hagas. Simplemente dijo, ¿está ahí? Y la respuesta fue sí”.

      Explicó que incluso si el 10 era de tamaño normal, Flock aún lo habría marcado como una coincidencia, porque así lo han configurado de acuerdo con las solicitudes de las fuerzas del orden. A veces, las matrículas parciales son todo lo que tienen para comenzar.

      “La forma en que a las fuerzas del orden les gusta usar estas herramientas es, si alguno de los caracteres que han puesto en estas listas de búsqueda se lee, quieren recibir esas alertas”, dijo. “Ahora, lo que intentamos enseñar a los oficiales es hacer lo que dijiste, que es verificar que 34 DTM es lo que estoy buscando, y lo que estoy viendo es 34 10 DTM”.

      Claramente, eso no sucedió en mi caso. Pero es cierto que si los oficiales hubieran dado ese paso, (probablemente) no me habrían perseguido tan agresivamente, o incluso en absoluto, y todo esto podría haberse evitado. Pero aún así, la pregunta principal que nos queda es por qué el sistema de Flock no tiene una forma de distinguir lecturas parciales de lecturas completas y alertar a la policía en consecuencia.

      “Creo que tienes razón. Creo que hay mucho en lo que dijiste sobre cualquier cosa que sea una alerta automatizada que no se ingresa como una alerta personalizada por una agencia individual, pero va al NCIC, nuestro aprendizaje automático debería buscar: ¿Es una coincidencia perfecta en lugar de solo, ¿está ahí?” dijo Thomas. “Quiero decir, esa es una retroalimentación justa que debería llevar de regreso a nuestro equipo y ver qué podemos hacer al respecto”.

      Thomas explicó algunos de los pasos que Flock está tomando a raíz de esto, incluyendo intentar corregir el informe policial original y reunirse con los funcionarios del FBI que curan la base de datos del NCIC para establecer una forma de que los datos incorrectos o incompletos sean etiquetados rápida y claramente como tales para los oficiales en el campo que simplemente están viendo alertas automatizadas parpadear en sus pantallas. Al mismo tiempo, Thomas seguía volviendo a la idea de que el sistema de Flock depende tanto de entradas de datos válidas como de humanos en el circuito para verificar las salidas.

      “Un humano