В последнее время технологии распознавания лиц находятся под пристальным вниманием и общественности, и прессы. Представители рубрики и передачи BBC Tech Tent, в которых обсуждаются передовые технологии, представили свой взгляд на то, что ждет и создателей, и невольных "пользователей" таких технологий.
Быстрое внедрение систем распознавания лиц правоохранительными органами по всему миру подвергается сомнению со стороны правозащитников. Они отмечают, что технология пока весьма несовершенна: в частности, не способна точно идентифицировать чернокожих. Споры о точности, этичности и сфере применения распознавания лиц велись давно, но убийство Джорджа Флойда "подлило в них масла".
По поводу наработок в этой области высказались крупнейшие игроки рынка.
Сначала в IBM отметили — компания прекращает продажу программ, которые помогают распознавать лица.
Далее выступили представители Amazon, введя однолетний мораторий на использование своей системы Rekognition полицией (в ожидании того, как и какие поправки внесут в юридические документы политики).
И, наконец, в Microsoft также заявили, что система распознавания лиц компании не будет продаваться полицейским департаментам, пока не будет принят федеральный закон, регулирующий эту технологию.
Корреспонденты Tech Tent узнали мнение бывшего сотрудника Amazon, который выразил обеспокоенность по поводу использования распознавания лиц еще в ходе работы в компании.
Анима Анандкумар, ныне профессор компьютерных технологий Калифорнийского технологического института, говорит, что система Rekognition, позволяющая сотруднику полиции сравнивать фотографию, сделанную со смартфона, с базой данных подозреваемых, была выпущена в продажу до исправления всех проблем.
"Такие сотрудники, как я, стремятся к тому, чтобы постепенно проверять продукт в реальных условиях, а не сразу выпускать "сырые" версии на рынок. Дело в том, что у нас сильно несбалансированные наборы данных для "обучения" этих программ, и проблема с темнокожими людьми известна очень давно", — отметила Анандкумар.
Специалист по аналитике технологий Стефани Хэйр отмечает, что помимо точности и этической стороны, есть и сугубо коммерческий вопрос.
"Технология наблюдения — это большой бизнес, а не просто ПО для полиции или органов безопасности. Программы доступны и частным компаниям", — комментирует она.
Даже если сгладить все технические и моральные проблемы, останется вопрос: как технология изменит природу власти?
"У кого есть доступ к такой технологии? Как ее применять? Как отказаться от сканирования? И что делать, если ее применят повсеместно, и вы даже не узнаете, что вас отсканировали?", — спрашивает Хэйр.
Во всем мире другие технологические компании и правоохранительные органы уже сталкиваются с проблемами, вызванными распознаванием лиц.
В Великобритании полиция решила применить новинку на футбольных матчах и для оценки ситуаций на оживленных улицах. И тут же получила судебный иск: покупатель одного из магазинов обвинил полицию в том, что она нарушила его право на неприкосновенность частной жизни. И впервые в мире суд рассмотрел столь необычное дело, ограничившись пока решением в пользу ответчика. Дело, по словам юриста группы Liberty Эда Бриджеса, передано в Апелляционный суд.
"Каким бы ни был результат суда, и политикам, и частным компаниям стоит задуматься о приостановке применения столь популярной технологии хотя бы до момента ее юридического урегулирования. И конечно же, нужны публичные слушания, дебаты", — резюмируют корреспонденты Tech Tent.
Фото: lieyunwang.com