Flock Safety, поставщик систем видеонаблюдения, распознавания номеров и дронов для полицейских подразделений, попала в центр острой политической и общественной критики. Генеральный директор Гарретт Лэнгли призывает искать компромисс между приватностью и безопасностью, но его слова выглядят всё менее убедительно на фоне конкретных фактов злоупотреблений технологией.
The Washington Post недавно выявила 46 задокументированных случаев, когда сотрудники полиции использовали систему Flock для неправомерных целей: отслеживания жён, подруг, экс-партнёров. После интервью с одной из пострадавших Лэнгли признал на CBS News: «Мне очень жаль, что она через это прошла». Но одновременно он утверждал, что Flock не создал проблему полицейского произвола, а скорее «первым сделал её видимой и создал инструменты для её выявления». Это звучит как оправдание инструмента через улучшенную диагностику — логика, которая обычно убеждает только тех, кто уже верит компании.
Критика Flock стала редкостным случаем, когда левые и правые согласны. С левого фланга: демократический кандидат в сенат Мичигана Абдул Эль-Сайед обвиняет противника в поддержке «массового распространения камер Flock везде, которые следят за каждым вашим движением и собирают данные без вашего ведома». Берни Сандерс постит: «ОСТАНОВИТЬ МАССОВОЕ НАБЛЮДЕНИЕ ИИ. ОСТАНОВИТЬ FLOCK». С правого крыла: трое республиканцев из Палаты представителей внесли законопроект, запрещающий федеральному правительству закупать системы автоматического наблюдения с распознаванием лиц, биометрией и распознаванием номеров — с явным упоминанием Flock.
Компания попыталась смягчить критику через несколько косметических изменений. По умолчанию данные теперь хранятся 7 дней вместо 30, и требуется ввести код дела перед доступом к информации. Но оба эти ограничения легко обойти: полицейские могут активировать режим «Evidence Mode» и сохранять данные дольше. Американский союз защиты гражданских свобод прямо сказал, что пока неясно, является ли это реальным изменением или PR-ходом — всё зависит от того, как именно работает этот режим.
Сама конструкция проблемы — исторический повтор. Технологии наблюдения, которые начинались как инструменты для конкретной задачи (поиск преступников, ловля автомобилистов без номеров), со временем неизбежно расширяются. Когда система уже развёрнута в сотнях подразделений и генерирует ежедневный поток данных, ограничить её применение становится почти невозможно — даже если на бумаге такие ограничения есть. История показывает, что запретить неправомерное использование сложнее, чем предусмотреть его в техническом проектировании.
Лэнгли предлагает государственным регуляторам «принимать законы, которые делают незаконное использование данных Flock уголовным преступлением». Звучит разумно, но это всё ещё политика реагирования на проблему, а не её предотвращения. На интервью Fox News он также указал на необходимость регулирования и подотчётности в целом по технологиям наблюдения. Это справедливая позиция, но сам факт, что её нужно высказывать CEO компании под давлением, говорит о том, что регулирование запоздало.
В российском контексте вопрос не столь острый в плане законодательства (наблюдение признано необходимым и регулируется Законом об ООО), но в плане практики весьма актуален. Для российского бизнеса, внедряющего системы видеоаналитики и распознавания в правоохранительные ведомства, кейс Flock — хороший урок про риск рифметинга и репутационные потери, когда технология растиражируется быстрее, чем разработаны социальные норм её применения. В розницу, логистике и охране такие системы уже работают и требуют явных и узких регламентов доступа, чтобы избежать злоупотреблений — даже если на техническом уровне их можно переопределить.
TechCrunch планирует расспросить Лэнгли обо всех этих вопросах на конференции Disrupt в октябре. Судя по растущей политической напряженности вокруг компании и конкретным свидетельствам её неправомерного использования, разговор обещает быть непростым.