Flock заявляет, что их камеры работали «правильно», когда полиция преследовала и устроила засаду на меня без причины

      Скриншот

      

      

       Полиция Плимут

      

      

      

      

      

      

       Самые важные автомобильные новости и обзоры, без ерунды

      

      

      

      

      

      К этому времени миллионы людей увидели нашу историю о том, как серия ошибок между Flock Safety и правоохранительными органами привела к тому, что полиция отслеживала меня в течение нескольких дней с помощью автоматических камер распознавания номерных знаков и устроила мне засаду в рамках скоординированного задержания. Еще миллионы увидели видеозапись с камеры, которую мы получили и опубликовали. Это стало частью еще более широкой и горячей дискуссии о конфиденциальности в Америке, и через неделю я узнал гораздо больше о том, как и почему это произошло, включая информацию от самой компании Flock.

      Я выяснил, что четкое сочетание человеческой ошибки, ограничений системы Flock на базе ИИ и общего отсутствия защитных мер, которые привели к тому, что меня задержали по подозрению в крупной краже автомобиля, не было идеальным штормом. Это ситуация, которая уже произошла, может произойти и будет продолжать происходить с кем угодно, пока не будут внесены масштабные изменения как со стороны Flock, так и со стороны правоохранительных органов, ни одна из которых, похоже, не знает точно, как работать вместе, чтобы предотвратить это. И на самом деле, это произошло снова.

      Тем временем, наша история уже побудила городской совет Плимута, штат Миннесота, где я живу и где произошло задержание, начать обсуждение использования камер Flock в городе. Полиция Плимута имеет портал прозрачности в рамках своей системы Flock и отмечает, что в настоящее время в городе установлено 18 камер, которые за последние 30 дней прочитали более 580,000 номерных знаков, с более чем 14,800 попаданиями в "горячий список", в числе которых был и мой, а также 45 ручных поисков пользователями.

      Как это произошло

      Краткий пересказ: несколько недель назад я взял тестируемый мной внедорожник Range Rover стоимостью 155,000 долларов, чтобы выполнить несколько дел с моей женой в Плимуте, штат Миннесота. Я выезжал из парковочного места перед местным Kohl’s, когда четыре полицейских автомобиля подскочили и "инициировали блокировку и задержание автомобиля", как говорится в полицейском отчете. С руками на оружии, офицеры приказали нам выйти из автомобиля, обыскали нас и в конечном итоге сказали, что номерной знак Range Rover — Нью-Джерси 34 10 DTM — был украден, они подозревали, что и сам автомобиль тоже украден, и они использовали камеры Flock, чтобы отследить меня за последние два дня.

      Было бы довольно странно, если бы Jaguar Land Rover одолжила автомобиль с украденными номерами журналисту для обзора, поэтому я знал, что это не может быть правдой, но офицеры были уверены в этом. Потребовалось несколько телефонных звонков в JLR и компанию по управлению автопарком JLR, пока они удерживали нас на месте происшествия, плюс последующее интервью с начальником полиции Плимута, чтобы узнать, что произошло.

      Похожий номерной знак производителя Нью-Джерси — 34 03 DTM — был зарегистрирован как украденный в Калифорнии (на самом деле он был потерян Land Rover во время фотосессии, как я позже узнал). Этот "украденный" номер был внесен в базу данных Национального центра информации о преступности (NCIC) с пропущенными двумя средними цифрами, которые меньше остальных символов на физическом знаке. Просто 34 DTM.

      Joel Feder

      Flock использует данные NCIC для пометки подозрительных номеров, и когда он увидел мой, его система ИИ проигнорировала "10" в середине моего номера и предупредила полицию о совпадении. И наконец, когда полиция получила это предупреждение и увидела фотографию, которую Flock сделал моего номера, где "10" видно, они не ввели полную последовательность 34 10 DTM в свою систему для проверки. И люди, и машины зафиксировались на 34 DTM. Фиксация на цели, я полагаю. Ой.

      Вся последовательность была настолько абсурдной, что я изначально назвал ситуацию крайним случаем в рамках крайнего случая, с которым сеть камер Flock не смогла справиться, но это произошло снова.

      Tim Esterdahl/Pickup Truck + SUV Talk

      В среду, коллега-автожурналист Тим Эстердал, издатель Pickup Truck + SUV Talk, был остановлен двумя офицерами в Скоттс-Блаффе, штат Небраска, когда он ехал с 14-летним ребенком на внедорожнике Range Rover Sport стоимостью 105,000 долларов, который JLR одолжила ему для обзора. Номера на нем? Да: Нью-Джерси 34 08 DTM.

      Ведущий офицер сообщил ему, что номера на автомобиле были зарегистрированы как украденные. Увидев нашу историю, Эстердал, в свою очередь, показал ее офицерам, надеясь доказать им, что он не мастер-вор. Он говорит, что офицер отреагировал спокойно, без обысков, без рук на оружии, и через примерно час его тоже отпустили. Но стоит отметить, что офицеры, которые задержали меня, предсказали, что это произойдет — любой автомобиль с номером Нью-Джерси с последовательностью 34 ## DTM продолжит помечаться Flock, потому что именно это он и искал.

      Jaguar Land Rover имеет ряд автомобилей с последовательностью номера 34 ## DTM, которые циркулируют по стране как автомобили для журналистов, дилеров или других корпоративных нужд. Со своей стороны, представитель компании сказал мне, что они пытаются заменить их и исправить оригинальный полицейский отчет в Калифорнии. Но это не произошло вовремя для Эстердала.

      Joel Feder

      Что говорит Flock

      Я не связывался с Flock перед публикацией первой истории, потому что не было необходимости публиковать мой личный отчет — офицеры буквально показали мне приложение Flock на своем телефоне и объяснили, как они его использовали. Но после того, как мы ее опубликовали, я услышал от кого-то с внутренней информацией, что Flock очень беспокоится о внимании, которое он получает, и в конечном итоге у меня было несколько телефонных звонков с директором по связям с общественностью Flock Джошуа Томасом.

      Томас сказал мне: "Я просто говорю вам, что моя цель не заключалась в том, чтобы получить освещение или защищать систему или что-то в этом роде, моя цель была искренне понять человека, который испытал то, что вы испытали. Я бы хотел услышать вашу точку зрения. Вы кажетесь очень разумным в отношении всей этой ситуации."

      Очевидный вопрос заключался в том, что камеры Flock искали 34 DTM, а номер на автомобиле, на котором я ехал, был 34 10 DTM. Почему это было помечено как совпадение?

      "Способ, которым работает ML [машинное обучение], заключается в том, что он правильно прочитал то, что должен был прочитать. Ему были переданы те символы, которые вы сказали, 34 DTM, и он выдал [результат] с символами 34 DTM," сказал Томас. "Ему было задано, можете ли вы это найти? И он это нашел. Он просто не сказал, если здесь больше, тогда не делайте этого. Он просто сказал, есть ли это? И ответ был да."

      Он объяснил, что даже если бы "10" был нормального размера, Flock все равно пометил бы это как совпадение, потому что именно так они настроили это в соответствии с запросами правоохранительных органов. Иногда частичные номера — это все, что у них есть на первом этапе.

      "Способ, которым правоохранительные органы любят использовать эти инструменты, заключается в том, что если любой из символов, которые они внесли в эти горячие списки, считывается, они хотят получать эти предупреждения," сказал он. "Теперь, что мы пытаемся научить офицеров делать, так это то, что вы сказали, а именно проверять, что 34 DTM — это то, что я ищу, и то, что я вижу — это 34 10 DTM."

      Очевидно, что этого не произошло в моем случае. Но правда в том, что если бы офицеры сделали этот шаг, они (вероятно) не стали бы так агрессивно преследовать меня или даже вообще, и всего этого можно было бы избежать. Но все же, главный вопрос, который у нас остается, заключается в том, почему система Flock не имеет способа различать частичные считывания