В Сколтехе изобрели способ выявления ИИ-текстов

Российские ученые из Сколтеха, возглавляемые Сергеем Баранниковым, разработали уникальный метод идентификации текстов, созданных искусственным интеллектом.

Фото: commons.wikimedia.org by Kharsohtun, CC BY-SA 4.0

Искусственный интеллект

Проблема распознавания машинных текстов становится все более актуальной из-за стремительного прогресса ИИ, способного генерировать тексты, неотличимые от человеческих.

Основной инновацией методики стало использование "замороженных" моделей, которые не адаптируются к новым данным. Эти модели позволяют надежно определять характерные признаки машинных текстов, избегая переобучения.

Существующие методы, включая трансформеры вроде RoBERTa, показали низкую эффективность при работе с текстами из разных областей знаний. Чтобы преодолеть эти ограничения, команда внедрила подходы, базирующиеся на анализе перплексии, которая оценивает предсказуемость текста. Высокая перплексия свойственна текстам, созданным человеком, в то время как низкая — характерна для машинных.

Исследование также учло структурные особенности текстов, такие как длина и форма предложений, которые могут дезориентировать алгоритмы.

Уточнения

Ско́лковский институ́т нау́ки и техноло́гий (Сколте́х) — российское негосударственное технологическое высшее учебное заведение.

Иску́сственный интелле́кт (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.