Apple будет отслеживать запрещённый контент на устройствах пользователя

В четверг компания Apple объявила о внедрении новой технологии для обнаружения с помощью алгоритмов хэширования любого возможного контента, связанного с сексуальным насилием над детьми (например, детской порнографии), который пользователи смартфонов iPhone и линейки планшетов iPad могут фотографировать.

Как следует из пресс-релиза, технология была задумана с учётом "уважения к конфиденциальности пользователей".

То есть, новая система не будет сканировать материалы, находящиеся в облаке iCloud, но будет сопоставлять на этих устройствах "хэши" изображений (зашифрованные версии) с базой данных, предоставленной американским Национальным центром по пропавшим и эксплуатируемым детям (NCMEC), которая регистрирует содержимое, уже помеченное как запрещенное.

В случае если система обнаружит незаконный материал, он будет вручную отклонен сотрудниками Apple. Со своей стороны, пользователи могут подать апелляцию на восстановление учетной записи, если они считают, что произошла ошибка.

Лес рубят — щепки летят?

Мэтью Грин, эксперт по криптографии и безопасности, предупредил, что внедрение такой системы может иметь неблагоприятные последствия, поскольку алгоритмы хеширования не совсем надежны и могут идентифицировать некоторый контент как запрещенный, даже если он на самом деле "вполне безобиден".

С экспертом согласились и пользователи устройств Apple, которые в основном считают, что бороться с распространением такого рода контента нужно, но в то же время опасаются, что могут попасть в черные списки "случайно".

Например, один комментатор задается вопросом конфиденциальности:

"Технологическая компания сканирует ваши личные фотографии. Что происходит, когда фотография моего сына с разбитой коленкой прислана мне, например, учителем физкультуры, информирующим о травме, полученной на уроке?".