Как ИИ используется в преступлениях: подробности первых случаев

С появлением чат-ботов открылись не только новые возможности для прогресса, но и неожиданные угрозы. Прогнозы на 2025 год указывают на резкий рост преступлений с применением технологий искусственного интеллекта. По данным аналитиков, до 90% нелегальных кибергруппировок планируют внедрить ИИ в свою деятельность, что значительно повысит эффективность их методов, сообщает argumenti.ru.

Фото: freepik.com is licensed under public domain

Искусственный интеллект

Первые преступления с использованием чат-ботов

Начало 2025 года уже отметилось первым шокирующим случаем. В США был зафиксирован террористический акт у отеля Trump International. Организатор использовал ChatGPT для подготовки своего плана, что сделало его первым преступником, применившим чат-бот в качестве инструмента для реализации преступления. Этот инцидент вызвал широкий общественный резонанс и поставил новые вопросы о регулировании использования нейросетей.

Как преступники обходят защиту ИИ

Киберпреступники находят способы обходить защитные механизмы нейросетей благодаря технике, известной как промпт-инжиниринг. Этот метод позволяет вводить чат-боты в заблуждение, подталкивая их к созданию контента, который может быть использован в злонамеренных целях. В результате такие атаки становятся всё более изощрёнными, требуя обновления законодательства и технологий защиты.

ИИ под контролем: российский подход

Отечественные разработки в сфере искусственного интеллекта предлагают иной подход. Российские аналоги ИИ-решений подвергаются строгому контролю, что позволяет минимизировать риски утечки данных и нарушения законодательства. В частности, наделение Роскомнадзора полномочиями по проведению экспертиз контента, созданного ИИ без маркировки, может стать важным шагом в борьбе с несанкционированным использованием технологий.

Будущее защиты: новые вызовы

С развитием технологий искусственного интеллекта угрозы становятся всё сложнее. Это подчёркивает необходимость создания международных стандартов, направленных на предотвращение преступлений с использованием ИИ, а также формирования эффективных инструментов для идентификации контента, созданного нейросетями. Только комплексный подход сможет обеспечить безопасность в эпоху цифровых инноваций.

Уточнения

Иску́сственный интелле́кт (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.