Может ли ИИ обрести сознание: ученый призывает к осторожности

Директор Института перспективных исследований мозга МГУ имени Ломоносова, академик РАН Константин Анохин, считает, что создание искусственного сознания возможно, но нежелательно из-за потенциальных непредсказуемых последствий. Вместо этого, по его мнению, следует сосредоточиться на развитии систем искусственного интеллекта, которые будут когнитивно развиты, но не обладают сознанием.

Академик высказал свою точку зрения на международной конференции "Искусственный интеллект и сознание", которая проходила в президиуме РАН. Он подчеркнул, что вопрос о сознании при разработке искусственного интеллекта не должен игнорироваться, но необходимо подходить к нему с особой осторожностью.

Существует разногласие среди ученых относительно того, когда и сможет ли искусственный интеллект обрести сознание. Некоторые исследователи полагают, что большие языковые модели уже обладают субъективным опытом, другие предсказывают появление сознания у ИИ в ближайшие десятилетия, а третьи считают, что это произойдет только через 50 лет или позже. Анохин объясняет это недостаточным пониманием как работы больших языковых моделей, так и самого сознания.

По его мнению, необходима научная теория сознания, которая будет построена на основе естественных систем, обладающих сознанием. Анохин предлагает свою теорию "когнитома", которая объясняет, как в живых системах возникает когнитивность. Он считает, что сознание может существовать только в системах, обладающих когнитомом — определенной структурой, несущей субъективный опыт системы.

В Институте перспективных исследований мозга МГУ, возглавляемом Анохиным, проводятся эксперименты на животных для проверки этой теории.

Академик также напомнил о рассказе лондонского профессора Мюррея Шанахана о его разговоре с чат-ботом Клод, который, по словам профессора, вел себя так, будто у него есть личность и он размышляет. Повторить этот эксперимент не удалось, так как разработчик чат-бота заблокировал такую возможность.

В ходе конференции "Искусственный интеллект и сознание" также обсуждались результаты опроса, согласно которому две трети респондентов уже приписывают искусственному интеллекту ту или иную степень сознания.

Уточнения

Позна́ние  когни́ция — совокупность процессов, процедур и методов приобретения знаний об явлениях и закономерностях действительности.