Технология распознавания лиц: что будет дальше

В последнее время технологии распознавания лиц находятся под пристальным вниманием и общественности, и прессы. Представители рубрики и передачи BBC Tech Tent, в которых обсуждаются передовые технологии, представили свой взгляд на то, что ждет и создателей, и невольных "пользователей" таких технологий.

Бизнес в ожидании: нужны законы

Быстрое внедрение систем распознавания лиц правоохранительными органами по всему миру подвергается сомнению со стороны правозащитников. Они отмечают, что технология пока весьма несовершенна: в частности, не способна точно идентифицировать чернокожих. Споры о точности, этичности и сфере применения распознавания лиц велись давно, но убийство Джорджа Флойда "подлило в них масла".

По поводу наработок в этой области высказались крупнейшие игроки рынка.

Сначала в IBM отметили — компания прекращает продажу программ, которые помогают распознавать лица.

Далее выступили представители Amazon, введя однолетний мораторий на использование своей системы Rekognition полицией (в ожидании того, как и какие поправки внесут в юридические документы политики).

И, наконец, в Microsoft также заявили, что система распознавания лиц компании не будет продаваться полицейским департаментам, пока не будет принят федеральный закон, регулирующий эту технологию.

Разработчики в напряжении: технологии несовершенны

Корреспонденты Tech Tent узнали мнение бывшего сотрудника Amazon, который выразил обеспокоенность по поводу использования распознавания лиц еще в ходе работы в компании.

Анима Анандкумар, ныне профессор компьютерных технологий Калифорнийского технологического института, говорит, что система Rekognition, позволяющая сотруднику полиции сравнивать фотографию, сделанную со смартфона, с базой данных подозреваемых, была выпущена в продажу до исправления всех проблем.

"Такие сотрудники, как я, стремятся к тому, чтобы постепенно проверять продукт в реальных условиях, а не сразу выпускать "сырые" версии на рынок. Дело в том, что у нас сильно несбалансированные наборы данных для "обучения" этих программ, и проблема с темнокожими людьми известна очень давно", — отметила Анандкумар.

Специалист по аналитике технологий Стефани Хэйр отмечает, что помимо точности и этической стороны, есть и сугубо коммерческий вопрос.

"Технология наблюдения — это большой бизнес, а не просто ПО для полиции или органов безопасности. Программы доступны и частным компаниям", — комментирует она.

Даже если сгладить все технические и моральные проблемы, останется вопрос: как технология изменит природу власти?

"У кого есть доступ к такой технологии? Как ее применять? Как отказаться от сканирования? И что делать, если ее применят повсеместно, и вы даже не узнаете, что вас отсканировали?", — спрашивает Хэйр.

Люди в судах: нарушается право на частную жизнь

Во всем мире другие технологические компании и правоохранительные органы уже сталкиваются с проблемами, вызванными распознаванием лиц.

В Великобритании полиция решила применить новинку на футбольных матчах и для оценки ситуаций на оживленных улицах. И тут же получила судебный иск: покупатель одного из магазинов обвинил полицию в том, что она нарушила его право на неприкосновенность частной жизни. И впервые в мире суд рассмотрел столь необычное дело, ограничившись пока решением в пользу ответчика. Дело, по словам юриста группы Liberty Эда Бриджеса, передано в Апелляционный суд.

"Каким бы ни был результат суда, и политикам, и частным компаниям стоит задуматься о приостановке применения столь популярной технологии хотя бы до момента ее юридического урегулирования. И конечно же, нужны публичные слушания, дебаты", — резюмируют корреспонденты Tech Tent.

Фото: lieyunwang.com