Камеры «узнают» преступников и покупателей. Где работают технологии из киберпанк-фильмов
В Москве вы можете заплатить «по лицу» в некоторых кофейнях, а по отпечатку пальца — в супермаркетах. Те же биометрические данные — фотография и отпечатки пальцев — позволяют пройти паспортный контроль в Шереметьево, а фотография и голос в записи — получить услуги в банках. Еще к алгоритмам распознавания лиц подключены уличные камеры не менее, чем в десяти российских городах (большинство из них не рассказывает об экспериментах с биометрией). С их помощью полицейские находят преступников. В торговых центрах такие камеры внедряют для борьбы с шоплифтерами, на футбольных матчах — с неадекватными фанатами. Рассказываем, как работают эти технологии и что они поменяют вокруг нас через два-три года.
Человек из Кемерова и похититель картины Куинджи
В декабре 2018 года житель Кемерова прошел мимо уличной камеры, подключенной к системе распознавания лиц и сверке с фотографиями из базы МВД.
Алгоритм «узнал» его, как человека, находящегося в розыске за грабежи. Через секунду полицейский получил Push-уведомление в приложение на смартфоне. Через несколько минут мужчину задержали в ближайшем магазине. Система не ошиблась: позже он дал признательные показания.
Читайте также
Что знают о вас городские камеры
«Видео с камер, подключенных к системе, передается на сервера. Алгоритм «выхватывает» лица прохожих и сравнивает с теми, которые есть в базе, например, МВД. Это происходит со скоростью, недосягаемой для человека. За секунду нейросеть может 200 раз «посмотреть» базу из двух миллионов снимков. Если «картинка» совпадает — автоматически отправляется уведомление в приложение: локация, данные о личности, фото. Полицейский сравнивает «картинки» и принимает решение — доверять алгоритму или нет», — рассказывает Артем Кухаренко, один из создателей стартапа NtechLab, который разрабатывает такие продукты.
Основатели NtechLab — выпускники московских технических вузов — создали алгоритм в 2015 году.
Еще с «сырой» разработкой обошли на одном профильном конкурсе команду из Google. А чуть позже сделали сервис FindFace для распознания лиц пользователей «ВКонтакте» (сейчас поисковик закрыт). В 2017 году запустили вместе с мэрией Москвы пилотный проект по подключению 1,5 тысяч камер у подъездов к системе распознавания лиц. А летом 2018 года их разработка обкатывалась на матчах чемпионата мира в Москве.
В дни матчей с помощью «узнающих» камер, полиция задержала около сотни человек, по данным Департамента информационных технологий (ДИТ) города. «Камеры, связанные с нашим алгоритмом, находились не везде, а только на стадионе «Лужники» и в двух фанзонах», — уточняет Артем Кухаренко. Меньшая часть задержанных на ЧМ-2018 — люди из розыска МВД, остальные — мелкие нарушители и буйные болельщики, которых организаторы внесли в «черный список».
В Москве распознавание лиц работает на некоторых камерах в метро, у подъездов, в местах массового скопления людей. Всего в городе 170 тыс. камер, чиновники не сообщают, сколько из них — биометрические, но обещают, что к концу 2019 года их будет 105 тысяч.
Читайте также
Кража картины Архипа Куинджи «Ай-Петри. Крым». Факты
Недавно технология распознавания лиц помогла найти похитителя картины Архипа Куинджи «Ай-Петри. Крым». Полицейские обратились за помощью к специалистам, отвечающим за систему «Безопасный город». Они применили алгоритм, установили личность мужчины, вынесшего полотно из Третьяковской галереи, и проследили по камерам, куда он отправился.
NtechLab тестирует алгоритм не менее чем в десяти российских регионах, а это не единственный стартап с такими продуктом, есть и другие разработчики. Далеко не все пилотные проекты афишируются. «У нас есть эксперимент в Кемерове и в Альметьевске, который хотят сделать «умным городом», — Артем Кухаренко уточняет, что, по договоренности с заказчиками, может рассказывать не про все «пилоты». В этих городах «в деле» уличные видеокамеры.
В диких условиях. Как алгоритмы «видят» толпы людей
Как работает технология? Камеры — это «глаза», а алгоритм — «мозг» системы.
Любые изображения — лица, фотографии котиков, автомобильные номера — информация, которую он «видит» в форме темных и светлых линий, пятен и геометрических фигур.
«Алгоритм объединяет все признаки в сложные системы, сравнивает между собой и выдает ответ, например, один и тот же человек на двух фотографиях или нет», — объясняет Артем Кухаренко.
Читайте также
Автоматический паспортный контроль в Шереметьево: как это работает и кто может его пройти
Точность — то, как часто нейросеть «узнает» верно, — зависит от многого: качества изображения, разрешения камеры, освещения, помех вокруг. Сейчас биометрический контроль внедряется в аэропортах, например, так можно пройти в «чистую зону» московского Шереметьево. Там для нейросетей «тепличные» условия. Человек стоит лицом к камере, у белой стенки, его нужно сравнить с фотографией хорошего качества из базы.
Алгоритмы, «просматривающие» видео с уличных камер, работают в неконтролируемых «диких» условиях (in the wild — общепринятый термин), это намного сложнее.
Сравнивать лица, наполовину закрытые капюшонами, шапками, шарфами, иногда нужно не с фотографиями, а с фотороботами, если речь идет, допустим, о сверке по базе МВД. И в этих «диких» условиях российские команды превосходят на разных конкурсах разработчиков из большинства стран. К сильным игрокам относятся NtechLab, VisionLabs, «Вокорд» (самый «старый» разработчик, работает с 1999 года). Основные соперники русских — китайцы. Это, в частности, связано с тем, что и в России, и в Китае высокий спрос на такие технологии и, благодаря хорошей математической школе, есть сильные программисты.
«Точность нашего алгоритма в условиях уличной видеосъемки — 90% при количестве ложных срабатываний один на миллион — говорит Кухаренко. — При этом система чаще не узнает нужного прохожего. Ложные срабатывания — это когда алгоритм по ошибке «видит» в прохожем человека из розыска. Мы работаем над тем, чтобы свести возможность таких срабатываний к единице на сто миллионов». Разработчик добавляет, что создать алгоритм, который никогда не будет ошибаться, невозможно: «Это утопия.
Но нейросети уже делают такую работу намного эффективнее людей».
Читайте также
Индия выстраивает общегосударственную систему биоидентификации граждан
Системы распознавания лиц на уличных камерах еще долго будут осторожно называть «экспериментальными», считают эксперты, в мире были случаи, когда алгоритмы вели себя непредсказуемо.
«В Китае алгоритм просканировал лицо знаменитости из рекламы, наклеенной на проходящем автобусе, и ошибочно определил его как преступника, — приводит пример Данила Николаев, директор НП «Русское биометрическое общество» (объединяет разработчиков в этой сфере). — А в Великобритании, в Кардиффе, во время финала Лиги чемпионов УЕФА-2017 «записал» в преступники более двух тысяч болельщиков. Ошибки могут быть связаны как с работой алгоритма, так и с работой оборудования. Часто при внедрении заказчики не следуют требованиям ГОСТов в области биометрии, а используют методики вендоров, которые не учитывают всех условий. И это приводит к разочарованиям».
До свидания, шоплифтеры. Здравствуйте, покупатели кофе
Камеры, распознающие лица, используются в торговых центрах для борьбы с воровством. Например, разработчик BIT вместе с NtechLab создали систему «Стоп Шоплифтер», которая сейчас работает в крупных ретейл-сетях в России. Подобный продукт есть у компании «Вокорд».
Ретейлеры заносят в базу фотографии клиентов, пойманных на воровстве, и, когда эти посетители снова появляются в магазинах, охранники получают Push-уведомления на смартфоны.
Эти алгоритмы теоретически можно применять и для таргетированной рекламы, примерно как это представлено в киберпанк-фильме «Особое мнение». Герой идет по улице или мегамоллу, а «лица» с интерактивных баннеров приветствуют его: «Джон Андерсен, забудьте о своих проблемах» и наперебой предлагают поехать на курорт, выпить пива, купить новый автомобиль. Но такое применение, по мнению Артема Кухаренко, «слишком пугающе», даже при условии, что люди разрешили конкретному ТРЦ обрабатывать и использовать их персональные данные.
«Общество не готово к чему-то подобному», — считает он.
Читайте также
Как селфи заменит наличные и карты в кафе и супермаркетах
Зато люди вполне готовы предоставлять биометрические данные сервисам, упрощающим покупку товаров и услуг. В прошлом году разработчики VisionLabs и SWiP создали приложение для ресторанов и кафе, которое позволяет принимать оплату «по лицу». Вы скачивается приложение Swip в AppStore или GooglePlay, делаете селфи — сервис подсказывает вам нужный ракурс, привязываете фотографию к банковской карте и, когда приходите в заведение, где работают с этой программой, расплачиваетесь, посмотрев в камеру на кассе.
«Сейчас приложение скачали 20 тысяч пользователей, — говорит Анатолий Райхерт, гендиректор SWiP. — Система работает более чем в 100 точках в Москве — это сети «Папа Джонс», «Cofix» и некоторые другие. Пользователи — молодежь, большинство — женщины. Последние шесть месяцев прошлого года мы получали обратную связь. Людям нравилась высокая скорость оплаты, но они часто не понимали, когда смотреть в камеру, куда именно смотреть, а еще хотели видеть сумму чека, скидку и иметь возможность дополнительной безопасности в виде пароля.
В начале года мы разработали новую версию продукта, которая включила в себя девайс с тачэкраном. Теперь клиент видит, когда начинается оплата, сумму, скидку, может включить пароль для подтверждения».
Также в некоторых супермаркетах «Азбука Вкуса» уже можно привязать к банковскому счету отпечаток пальца и платить за товары, не доставая карту.
Зачем банки записывают наши голоса
Летом 2018 года российские банки начали собирать и передавать в единую базу биометрические данные клиентов — фотографии и голос в записи. В результате россияне смогут получать услуги удаленно в любых банках, а не только там, где зарегистрировались.
Какие виды биометрической идентификации существуют
Самые популярные виды биометрии: изображение лица, голос, отпечатки пальцев, радужная оболочка глаза, рисунок вен на ладонях. Сейчас в мире наиболее широко внедрятся алгоритмы распознавания по лицу и по голосу. Некоторые сервисы используют одновременно оба способа. Еще создается много необычных кейсов, например, китайские разработчики придумали систему распознавания по походке.
Сейчас биометрию собирают в 20% банках по всей стране, посмотреть, где именно — можно на карте на сайте ЦБ РФ. К концу 2019 года услуга должна заработать во всех банках.
«Клиент приходит с паспортом и СНИЛС, еще нужно, чтобы у него был подтвержденный аккаунт на сайте «Госуслуги» — рассказывает Андрей Шурыгин, руководитель дирекции биометрических технологий «Почта Банка». — Он подписывает согласие на обработку биометрических данных, после чего сотрудники банка фотографируют его и записывают образец голоса — для записи нужно прочитать три последовательности цифр. Данные поступают в базу, на процедуру уходит не больше десяти минут».
По данным «Русского биометрического общества», сейчас примерно 10 тыс. россиян сдали свои биометрические данные.
«И менеджеры в отделениях банка предлагают клиентам сдать биометрические данные, и сами клиенты обращаются за этим, — продолжает Андрей Шурыгин. — Но рано говорить о массовом использовании возможности. Россияне еще мало осведомлены о преимуществах биометрии для удаленного обслуживания».
Читайте также
В ЦБ заявили, что некоторые банки при сборе биометрии вводят в заблуждение клиентов
Банки довольно давно «распробовали» биометрию для внутренних целей. В последние два-три года многие используют эти технологии для борьбы с кредитными мошенниками. Такая разработка от VisionLabs, например, применяется более чем в 40 банках в России и СНГ.
«Среди наших клиентов «Тинькофф», Сбербанк, «Почта Банк», — говорит Александр Ханин, гендиректор компании. — Лицо клиента сравнивается по биометрическому шаблону с базой мошенников. Многие банки внедряют систему распознавания лиц в банкоматах, как дополнительную опцию для проверки клиента и усиления безопасности: если злоумышленник захочет снять с чужой карты деньги, то система не позволит ему этого сделать».
Незнакомцы из метро, тролли и этические дилеммы
Биометрические сервисы проникают во все сферы нашей жизни с высокой скоростью, считают эксперты, намного быстрее, чем многие другие технологии. «Если вам кажется, что здесь все происходит медленно — это заблуждение, — говорит Артем Кухаренко.
— Мы отслеживаем новости в нашей сфере — почти каждый день в мире вводится биометрический контроль в аэропортах, в банках. Мы видим высокий спрос на системы «Безопасный город», на решения для бизнеса».
Но, вероятно, государство и крупный бизнес теперь будут ограничивать рядовых потребителей в использовании технологии. Это вызывает слишком много этических вопросов. Приложение FindFace, которое популяризировало алгоритмы распознавания лиц, закрыли летом 2018 года. Ранее сервис «засветился» в историях, когда петербургский фотограф развлекался тем, что снимал людей в метро, а позже находил их «ВКонтакте», а тролли искали и разоблачали работниц секс-индустрии. Впрочем, причина удаления сервиса из открытого доступа — не в них.
«У «ВКонтакте» не было вопросов к нашему приложению, — уточняет Кухаренко. — Сначала соцсеть вообще не знала о нашей разработке — они ведь дают возможность всем желающим создать и развивать свое приложение. Мы сделали его, чтобы продемонстрировать клиентам, на каком уровне находятся алгоритмы.
Изначально мы приходили к заказчикам, рассказывали, что умеем, одни говорили: «Это не работает», другие были уверены: «Все это давно есть! Мы видели в научно-фантастических фильмах». FindFace показал, как действительно работает технология. Сервис выполнил задачу, и мы убрали его из доступа».
Читайте также
«ВКонтакте» намерена судиться с сервисом по поиску людей по фотографии
Недавно во «ВКонтакте» появился аналогичный сервис по поиску пользователей по фотографии — SearchFace. Соцсеть быстро отреагировала на разработку и пригрозила судом создателям. Разработчики, по данным пресс-службы соцсети, использовали персональные сведения без согласия пользователей.
«В каждой стране и в каждой соцсети свое восприятие подобных сервисов, — рассуждает Артем Кухаренко. — Нам сейчас проще работать с бизнесом — мы понимаем, что у заказчика есть собственная база с данными клиентов, которые добровольно передали ему разрешение на использование».
Анастасия Степанова
как технология FindFace ставит крест на приватности
Власти Москвы и правоохранительные органы собираются использовать технологию приложения FindFace, позволяющего связать фотографию человека, сделанную на улице, с его профилем в социальных сетях, для поиска преступников и нарушителей, пишет «Медуза».
Приватности больше нет — к алгоритму присматриваются торговые сети, организаторы массовых мероприятий и спецслужбы.
В мае 2016 года создатель технологии Артём Кухаренко договорился с правительством Москвы о тестировании технологии распознавания лиц на видео, которые снимают городские камеры, рассказывает издание. Их в столице очень много: 98 тысяч на подъездах, 20 тысяч во дворах, сколько ещё камер стоит на улицах, на площадях, на дорогах, в транспорте — точно неизвестно.
Люди, которые проходят мимо камер, сверяются с загруженной в систему базой преступников или пропавших людей. Если на человеке показывается высокая степень сходства, то предупреждение об этом отсылается сотруднику полиции, который находится рядом. артём кухаренко, создатель N-Tech.Lab
Алгоритм также сможет «выделять отдельных людей в любой части города и находить их страницы в социальных сетях, из которых почти всегда можно узнать многое об их жизни», искать участников протестных митингов. Даже если человек забыл телефон дома, его перемещения по городу можно будет отследить, если он попадёт в объективы камер, и связать с профилем во «ВКонтакте».
В полиции довольны такой возможностью.
Они поднимают висяки, берут фотографии, прогоняют через приложение, находят профили людей, видят, что те вчера были онлайн, делают запрос во «ВКонтакте», там выдают IP-адрес, откуда человек заходил. Ну и по адресу выезжает полиция. артём кухаренко, создатель N-Tech.Lab
Распознаванием лиц собираются пользоваться далеко не только власти: на музыкальном фестивале Alfa Future People под Нижним Новгородом можно будет отправить селфи роботу и он соберёт все фотографии. При помощи камер супермаркеты будут знать, что человек покупал (или только собирался купить) в прошлый раз.
Ещё один вариант использования — онлайн-ретаргетинг на основе записей с камер наблюдения в магазинах. Например, если человек зайдёт в супермаркет, посмотрит кофеварку, но не купит её, то через пару дней увидит в интернете рекламу того же товара со скидкой и получит об этом же личное сообщение в социальной сети.
Создатель технологии Кухаренко заинтересовался нейронными сетями и распознаванием лиц ещё во время учёбы на факультете вычислительной математики и кибернетики МГУ.
В 2015 году на инвестиции венчурного фонда Typhoon Digital Development он создал компанию N-Tech.Lab. За несколько месяцев был написан алгоритм, который команда называет FaceN: он обучается распознавать лица на миллионах фотографий, где уже отмечено, кто есть кто.
Предложения о покупке алгоритма посыпались Кухаренко после победы в чемпионате по распознаванию лиц, который проводил Университет Вашингтона (в одном из соревнований он даже опередил разработку Google). Он рассказывает, что алгоритмом интересовались спецслужбы разных стран.
В январе 2016 года с ним связался Максим Перлин из рекламного агентства Blacklight и выкупил алгоритм для создания приложения по поиску во «ВКонтакте». Так и появился нашумевший FindFace. Перлин планирует добавить поиск по другим социальным сетям, но зарубежные пока такой возможности не предоставляют. Зато будет запущен поиск по базе «Одноклассников».
Отдельно «Медуза» отмечает, что в 2010 году Перлин выпустил эротический календарь со студентками МГУ ко дню рождения Владимира Путина, а позже сотрудничал с прокремлёвским медиаменеджером Константином Рыковым.
Кухаренко рассказывает, что вопросы безопасности его волнуют намного больше, чем право людей на частную жизнь. Он считает, что с помощью технологии распознавания лиц сможет решить многие проблемы.
Я с моральной точки зрения загорелся сделать такое во всех социальных сетях. Тогда можно будет говорить: «Я не только бабок заработал, но и проблему в мире решил». После этого можно будет и людей убивать. Прикольно! артём кухаренко, создатель N-Tech.Lab
В начале апреля московский фотограф рассказал о своём эксперименте: он делал снимки случайных людей в метро и находил их страницы в соцсетях при помощи приложения FindFace за считанные секунды. Позже пользователи «Двача» воспользовались им для деанонимизации порноактрис.
Полицейские базы данных распознавания лиц имеют несколько юридических ограничений на их использование
Технология
Города и штаты инвестируют в технологию биометрического сканирования, при этом существует несколько законов, ограничивающих то, что они могут с ней делать.
Автор Kaveh Waddell Джерри Брум / AP
Сохраненные истории
база данных, используемая в полицейских системах распознавания лиц.
Полицейские управления почти в половине штатов США могут использовать программное обеспечение для распознавания лиц, чтобы сравнивать изображения с камер наблюдения с базами данных фотографий на документы или фотографий. Некоторые департаменты используют распознавание лиц только для подтверждения личности задержанного подозреваемого; другие постоянно анализируют кадры с камер наблюдения, чтобы точно определить, кто проходит мимо в любой конкретный момент. В общей сложности более 117 миллионов взрослых американцев используют системы сканирования лица.
Эти результаты были опубликованы во вторник в отчете Джорджтаунского юридического центра конфиденциальности и технологий. В нем подробно описаны результаты годичного расследования, основанного на более чем 15 000 страниц записей, полученных в результате более чем 100 запросов о свободе информации.
Авторы исследования — Клэр Гарви, Альваро Бедойя и Джонатан Франкл — попытались заполнить большие пробелы в общедоступных знаниях о том, как используется технология распознавания лиц, и о существовании правил, ограничивающих ее использование полицейскими управлениями. Некоторые подробности об использовании ФБР сканирования лица были известны ранее, но масштабы участия местных и государственных правоохранительных органов только сейчас начинают раскрываться.
Распознавание лиц коренным образом отличается от других видов обыска, утверждают авторы, и не только потому, что полиции проще отслеживать людей по их физическим характеристикам, а не следить за их имуществом и технологиями, такими как смартфон. , дом или автомобиль.
Во-первых, это позволяет офицерам отслеживать большие группы людей, которые не обязательно подозреваются в совершении преступления. Суды не определили, является ли распознавание лиц «поиском», что ограничивало бы его использование в соответствии с Четвертой поправкой, поэтому многие ведомства используют его в отношении общественности без разбора.
(Это относится и к технологиям, отслеживающим местоположение смартфона, например.)
Более того, для того, чтобы система распознавания лиц работала, должна существовать база данных, с которой можно сверяться. Если полицейское агентство хочет знать, что парень, пойманный с камеры наблюдения за ограблением банка, — это Джон Доу, у него уже должна быть фотография Джона в деле. Если кадры наблюдения достаточно хороши, алгоритм распознавания может затем определить вероятность того, что лицо на фотографии такое же, как на портрете Джона на водительских правах.
Для того, чтобы можно было идентифицировать людей таким способом, необходимо импортировать многие миллионы фотографий невинных людей на документы в базы данных поиска. Согласно отчету, 80 процентов фотографий, которые появляются в сети распознавания лиц ФБР, не преступники. Только 8 процентов показывают известных преступников.
«Никогда раньше федеральные правоохранительные органы не создавали биометрическую базу данных или сеть баз данных, состоящую в основном из законопослушных американцев», — говорится в отчете.
Многие из различных местных и государственных отделений полиции, которые имеют доступ к этим базам данных, мало проверяют, как они их используют. В отчете говорится, что только в пяти штатах есть законы, касающиеся того, как правоохранительные органы могут использовать распознавание лиц, и ни один из них не затрагивает более одного аспекта проблемы.
Это означает, что некоторым департаментам сошло с рук откровенно абсурдное использование технологии: в округе Марикопа, штат Аризона, офис шерифа, возглавляемый знаменитым воинственным и антииммигрантским шерифом, загрузил все водительские права и фотографии всех жителей Гондураса. , предоставленный правительством Гондураса, в его базу данных распознавания лиц.
Отделы, использующие технологию более прямолинейным образом, могут по-прежнему сталкиваться с неточностями и предубеждениями, которыми часто страдают алгоритмы распознавания лиц. Было обнаружено, что они хуже работают с афроамериканскими лицами, чем с другими расами, что может повысить вероятность того, что система ошибочно идентифицирует невиновного чернокожего человека как подозреваемого.
А поскольку вероятность ареста афроамериканцев несоизмеримо выше — и, таким образом, они появляются в базах данных фотоснимков, — системы, использующие фотографии для бронирования, с большей вероятностью пометят афроамериканское лицо, чем лицо европеоидной расы.
В конце длинной череды твитов, освещающих результаты отчета — я собрал цепочку здесь — авторы указали на несколько отделов, которые смоделировали «ответственное» использование технологии распознавания лиц.
Бедойя похвалил полицейское управление Сиэтла за запрет распознавания лиц в режиме реального времени — когда алгоритмы просматривают живые видеопотоки в поисках совпадений — и за консультации с вашингтонским отделением Американского союза гражданских свобод при разработке политики его использования. По словам Бедойи, в Сан-Диего полиция получила законодательное разрешение на использование этой технологии, а полиция Сан-Франциско оговорила строгие требования к точности в своих контрактах с поставщиками средств распознавания лиц.
Но в большинстве городов и штатов нет таких ограничений на использование их (часто очень дорогих) систем. И шаблон непрозрачности означает, что очень трудно выяснить, как они их используют, в отсутствие армии исследователей и толстой стопки FOIA. Своим знаменательным отчетом авторы надеются подтолкнуть больше правоохранительных органов к прозрачности и убедить законодательные собрания штатов и Конгресс принять законы, регулирующие распознавание лиц, чтобы не допустить злоупотреблений.
Как полиция использует распознавание лиц для поимки преступников. Вот почему эксперты говорят, что это плохо для свободы слова
СОЛЯНОЕ ОЗЕРО — Представьте себе такой сценарий:
Полиция входит на футбольный стадион и просматривает толпу в поисках человека, которого они считают террористом.
Чтобы найти его, они загружают фотографию в сеть видеонаблюдения, используя технологию распознавания лиц. Сеть камер сканирует стадион, пока не появляется предупреждение: алгоритм нашел совпадение с кем-то в толпе.
Для всех остальных он выглядит преданным семьянином без судимостей, но благодаря алгоритму полиции виднее. Они бросаются в толпу и берут его под стражу.
Есть только одна проблема: человек, которого они арестовали, вовсе не тот террорист, которого они искали. Он просто похож на подозреваемого — такой же оттенок кожи, похожая форма лица. Программное обеспечение неверно идентифицировало его, и их намеченная цель все еще на свободе.
Звучит как научная фантастика?
Это не так. На самом деле технология распознавания лиц все чаще используется ФБР, а также правоохранительными органами штата и местных органов власти по всей стране, и уже были ошибки, приведшие к аресту невиновных людей.
По данным Счетной палаты правительства, шестнадцать штатов разрешили ФБР использовать технологию распознавания лиц для сравнения лиц подозреваемых преступников с фотографиями их водительских прав и удостоверений личности.
Как минимум 1 из 4 государственных или местных отделений полиции имеет возможность запустить распознавание лиц через систему своего или другого агентства.
По крайней мере, 26 штатов разрешают правоохранительным органам проводить или запрашивать поиск в своих базах данных водительских прав и фотографий удостоверений личности, согласно отчету Центра конфиденциальности и технологий Джорджтаунского права за 2016 год.
В штате Юта ФБР может найти 5,2 миллиона фотографий водительских прав и фотоснимков.
Примерно 50 процентов взрослых американцев ищут свои фотографии таким образом, а это означает, что 117 миллионов взрослых включены в сети распознавания лиц правоохранительных органов, согласно отчету.
В штате Юта ФБР может найти 5,2 миллиона фотографий водительских прав и фотоснимков.
Сотрудники правоохранительных органов говорят, что использование распознавания лиц упрощает и повышает эффективность поимки преступников и защиты страны от терроризма.
Но критики сомневаются в эффективности правоохранительных органов, использующих программное обеспечение, известное проблемами с точностью, особенно при обнаружении лицевых различий между женщинами, молодыми людьми и людьми с другим цветом кожи.
Исследование Массачусетского технологического института, проведенное в 2018 году, показало, что, когда человек на фотографии — белый мужчина, программное обеспечение для распознавания лиц верно в 99 процентах случаев, но чем темнее кожа, тем больше ошибок возникает — до почти 35 процентов для более темных изображений. -кожи женщин.
В июле Американский союз гражданских свобод протестировал Rekognition, систему распознавания лиц Amazon. ACLU отсканировал лица всех 535 членов Конгресса на фоне 25 000 публичных фотоснимков. Программное обеспечение неправильно сопоставило 28 членов Конгресса, идентифицировав их как других людей, арестованных за преступление.
Поддельными совпадениями были непропорционально цветные люди, в том числе шесть членов фракции чернокожих Конгресса. На основе теста ACLU призвал Конгресс присоединиться к ним и призвать к мораторию на использование правоохранительными органами наблюдения за лицами.
В то время, когда искусственный интеллект все чаще используется в качестве инструмента для обеспечения нашей безопасности, эксперты начинают бить тревогу, что, несмотря на все преимущества, которые дает эта технология, она может иметь серьезные последствия для конфиденциальности, свободы слова, расовых и гендерных предвзятость.
Некоторые из самых ярых сторонников усиления государственного надзора за использованием системы распознавания лиц правоохранительными органами прибыли из Юты, в том числе сенатор Майк Ли и бывший член палаты представителей от штата Юта Джейсон Чаффец.
«Как и многие технологии, используемые не в тех руках или без соответствующих параметров, она созрела для злоупотреблений. Одно дело, если бы технология распознавания лиц была идеальной или почти идеальной, но это явно не так. Технология распознавания лиц допускает ошибки. », — сказал Чаффец во время слушаний в Конгрессе по базам данных распознавания лиц в 2017 году.
Критика исходила даже от частных компаний, разрабатывающих технологию. Брайан Брэкин, генеральный директор компании-разработчика программного обеспечения Kairos, недавно попал в заголовки газет, заявив, что технология распознавания лиц, которую разрабатывает его фирма, еще не готова к бремени соблюдения закона.
Таможенный агент США проверяет семью с помощью программного обеспечения для распознавания лиц в международном аэропорту Орландо в четверг, 21 июня 2018 г.
, в Орландо, штат Флорида. Самый загруженный аэропорт Флориды становится первым в стране, требующим сканирования лиц пассажиров на всех прибывающих и вылетающих международными рейсами, в том числе граждан США, по словам официальных лиц. (AP Photo/Джон Рау)
Джон Раукс, AP
«Вы наблюдаете новую волну скептицизма по поводу того, действительно ли наблюдение за лицами улучшит общественную безопасность, и стоит ли нам вообще использовать эту систему», — говорит Мэтт Кейгл, поверенный по технологиям и гражданским свободам в ACLU Северной Америки. Калифорния.
«Охлаждающий эффект» протеста
Технология распознавания лиц существует уже последнее десятилетие, но вопросы конфиденциальности и гражданских свобод только недавно привлекли внимание всей страны, говорит Кейгл. Он говорит, что изменилось то, что мощность компьютеров увеличилась, а стоимость хранения данных снизилась, что позволило государственным учреждениям сделать технологию распознавания лиц более мощной и простой в использовании.
И хотя программное обеспечение для распознавания лиц широко используется правоохранительными органами в качестве инструмента расследования, по словам Клэр Гарви, сотрудника Центра конфиденциальности и технологий юридического факультета Джорджтауна, в этой области «полное отсутствие закона».
Другие инструменты полицейского расследования, такие как прослушивание телефонных разговоров и снятие отпечатков пальцев, строго регулируются, и судья должен выдать ордер на их использование. Но, по словам Гарви, только несколько законов штатов касаются распознавания лиц, а всеобъемлющего законодательства, регулирующего его использование, нет.
Осознание того, что видеокамеры можно использовать не только для слежки за людьми, но и для определения того, кто что делает в любой момент, может оказать «сдерживающий эффект» на протест, говорит Гарви. Люди с меньшей вероятностью будут выходить на улицы по непопулярным причинам, если они считают, что камеры отслеживают, с кем их видят и куда они ходят.
ФАЙЛ. На этой фотографии из файла от 21 июня 2018 года камера распознавания лиц видна на таможенном входе в международный аэропорт Орландо в Орландо, штат Флорида. Компьютеры начали распознавать человеческие лица на изображениях несколько десятилетий назад. Но теперь системы искусственного интеллекта конкурируют с людьми в способности классифицировать объекты на фотографиях и видео. Это вызывает повышенный интерес со стороны государственных учреждений и предприятий, которые стремятся наделить зрением все виды машин. (AP Photo/Джон Рау)
Джон Раукс, AP
Гарви сравнивает наличие полицейских видеокамер с технологией распознавания лиц на каждом углу с действиями полицейского, идущего по акции протеста и требующего опознания всех участников акции.
«Мы были бы в ужасе и имели бы полное право не подчиняться требованиям, если бы у нас не было разумных подозрений, что мы делаем что-то не так», — говорит она. Но она говорит, что камеры распознавания лиц делают то же самое — захватывая лица и идентифицируя людей удаленно и тайно.
«Влияние, которое это оказывает на деятельность Первой поправки, невероятно тревожно, и его нельзя недооценивать», — говорит она.
Возможность расовой предвзятости
Другие эксперты выражают обеспокоенность тем, что технология распознавания лиц может увековечить или даже усугубить расовую предвзятость в правоохранительных органах.
Эксперты говорят, что невозможно точно узнать, почему у алгоритмов больше проблем с определением определенных демографических данных, включая молодых людей, женщин и людей с другим цветом кожи.
Влияние, которое это оказывает на деятельность Первой поправки, невероятно тревожно, и его нельзя недооценивать — Клэр Гарви, сотрудник Центра конфиденциальности и технологий Джорджтаунского законодательства Технологии в Джорджтаунском законе и бывший главный советник подкомитета Сената по конфиденциальности, говорит, что это отчасти связано с тем, что программное обеспечение часто обучается преимущественно на белых лицах — это означает, что разработчики программного обеспечения используют наборы данных, которые содержат больше белых лиц в них, когда они обучают алгоритм для сравнения и распознавания разных лиц.
На еще более глубоком уровне Бедоя говорит, что «кино и фотография были разработаны таким образом, чтобы они были оптимизированы для белых лиц». Он говорит, что именно поэтому часто фотографии людей с более темной кожей с большей вероятностью будут размытыми или плохо освещенными, потому что сама технология была разработана для использования света для лучшего захвата белых людей.
Эксперты говорят, что одной из их опасений по поводу расовой предвзятости в технологии распознавания лиц является потенциальное использование технологии распознавания лиц в режиме реального времени в полицейских нательных камерах.
Гарви говорит, что оснащение полицейских нательных камер технологией распознавания лиц позволит офицеру, идущему по многолюдной улице, сканировать прохожих и получать оповещение о том, что он только что прошел кого-то, разыскиваемого за нападение при отягчающих обстоятельствах.
«Разумный офицер на такой должности вытащит оружие и, возможно, применит смертельную силу, — говорит Гарви, — но система могла ошибиться».
Хотя этого еще не происходит, это уже не за горами: более половины правоохранительных органов по всей стране используют нательные камеры Axon, к которым, по словам Кейгла, можно добавить возможность распознавания лиц.
Кейгл говорит, что есть что-то ироничное и глубоко тревожное в использовании распознавания лиц в полицейских нательных камерах, которые изначально предназначались для привлечения к ответственности офицеров и повышения прозрачности взаимодействия полиции с общественностью.
Катрина Поулсен, гостья из Дании, стоит перед камерой распознавания лиц после прибытия на таможню в международном аэропорту Орландо, четверг, 21 июня 2018 г., в Орландо, штат Флорида. Самый загруженный аэропорт Флориды становится первым в стране, требуют сканирования лица пассажиров на всех прибывающих и вылетающих международных рейсах, в том числе граждан США. (AP Photo/Джон Рау)
Джон Раукс, AP
Он говорит, что использование технологии распознавания лиц трансформирует роль нательной камеры как способ наблюдать не за самой полицией, а отслеживать и нацеливаться на публику.
«Наблюдение за лицами никогда не следует использовать с нательными камерами. Это превращает инструмент подотчетности правительства в инструмент государственного шпионажа», — говорит Кейгл.
Возможные решения?
В отчете за 2016 год «The Perpetual Line-up» Центр конфиденциальности и технологий Джорджтаунского законодательства выступил за усиление контроля за использованием правоохранительными органами технологии распознавания лиц, включая требование о том, чтобы ФБР или полиция имели как минимум разумный подозрение в преступном поведении до начала поиска по распознаванию лиц.
Бедоя говорит, что эта технология никогда не должна использоваться для нательных камер и не должна использоваться правоохранительными органами до тех пор, пока не будет доказано, что она является точной и не предвзятой по отношению к определенным демографическим группам.
Но он добавляет, что это могло бы помочь в действительно чрезвычайном положении в стране, с оговоркой, что чрезвычайное положение в стране должно иметь узкое определение — и что для всех других применений требуется ордер, подписанный судьей.
