Американским ученым удалось довести компьютер до шизофрении. И все - во имя человечества!

Американским ученым удалось провести эксперимент, в результате которого компьютер "заразился" психическим заболеванием, похожим на шизофрению. Это подтвердил и присутствовавший при опыте психиатр. Исследователи уверены, что данный эксперимент поможет медикам лучше понять процессы в больном человеческом мозгу и научиться их корректировать.

Фото: Фото: AP

До сих пор считалось, что компьютер, в отличие от человека, никогда не может сойти с ума. В критической ситуации он просто зависнет или ошибется, однако это будет разовым сбоем. Однако недавно ученые из Техасского Университета (США) смогли добиться того, что железный помощник человечества, что называется, "съехал с катушек". А присутствующий при эксперименте психиатр вынес неутешительный диагноз "Шизофрения в острой форме".

Правда, если быть совсем точным, психическим недугом заболел не сам компьютер, то есть процессор, память, жесткий диск и т. п., а его программное обеспечение. Это знаменитая нейросеть Discern-а, которая, как известно, способна естественному человеческому языку. Напомню, что нейронные сети — это программы, представляющие собой, некие блоки со способностью к самообучению и распознаванию образов, классификации и прогнозированию. То есть данная программа работает примерно так же, как и цепочка нервных клеток, отвечающих за выработку условного рефлекса в организме живого существа.

Итак, в эксперименте исследователи начали подавать данные в память Discern-а способом, очень похожим на способ, которым человеческий мозг принимает и сохраняет информацию. То есть, это были не различные единицы данных (как это делается обычно), а набор связанных между собой слов, предложений, сценариев и историй. Проше говоря, этой программе "рассказали" несколько несложных историй, не связанных между собой, которые нейросеть прилежно запомнила. Впрочем, контрольный опыт показал, что некоторые детали программа отсеяла и забыла, видимо, сочтя их малозначимыми.

Далее экспериментаторы приказали программе "запоминать все" и повторили процесс обучения с самого начала. После чего задали программе несколько вопросов, связанных с заложенной в компьютер недавней информацией. В результате нейросеть повела себя достаточно странно.

После повторного обучения Discern-а начала воспроизводить какие-то абсолютно бредовые и фантастические истории. Анализ сообщений показал, что в большинстве случаев они являлись мозаикой, элементами которой являлись кусочки тех ситуаций, которые были заложены в нейросеть учеными. Но они были скомбинированы в произвольном порядке, и, что самое интересное, без всякого учета причинно следственных связей.

Фото: AP

Читайте также: Компьютер целуется и отгадывает мысли

Но это еще не все. В ряде случаев у программы вдруг разыгрывалась фантазия — так, например, после ряда вопросов Discern-а добровольно взяла на себя ответственность за гипотетический террористический акт. А иногда нейросеть выдавала полный "бред сумасшедшего", выражавшийся в беспорядочном наборе предложений, резких отклонениях от темы заданного вопроса, постоянных возвратах к началу ответа и беспорядочных переходах на повествование от первого или третьего лица.

Присутствовавший при эксперименте специалист по шизофрении, доктор медицинских наук Ральф Хофман из Йельского университета, ознакомившись со всем, что выдала Discern-а, засвидетельствовал, что поведение нейросети действительно очень похоже на то, что наблюдаетсяушизофреников.То есть получается, что в какой-то момент программа действительно сошла с ума. Однако почему это случилось? Существуют две версии, объясняющие столь странное поведение нейросети.

Согласно одному из предположений, некоторые случаи шизофрении у человека связаны с повышенной концентрацией в мозге нейромедиатора дофамина. Это вещество, вырабатывающееся в нескольких участках нашего высшего нервного центра, в частности, отвечает за сортировку информации. Проще говоря, когда его в норме, то мозг "обращает внимание" лишь на самые важные составляющие поступающей туда информации. Но если его количество становиться очень большим (что часто и бывает у шизофреников), то любая информация становиться для него автоматически важной.

В результате получается такая ситуация, при которой мозг шизофреников не в состоянии отсеять и забыть незначащие или малозначимые факты, которые являются для него помехами или информационными шумами. Перегруженный такой "шумовой" информацией наш высший нервный центр оказывается не в состоянии сделать правильные выводы, построить логические цепочки, что приводит к возникновению нереальных образов и чувству причастности к несовершенным поступкам.

"Когда концентрация дофамина превышает установленный предел, мозг начинает считать, что исключительно все поступающие данные достоверны и строит логические выводы, основываясь на данных, которые мозг обычного человека попросту игнорирует" — говорит об этом Ули Граземан, ученый из университета Техаса — " А поскольку обработка информации в нейронных сетях имеет тенденцию весьма походить на обработку информации человеческим мозгом, мы смоделировали для программы ситуацию, аналогичную той, что возникает при высокой концентрации этого нейромедиатора. Таким образом, мы надеялись, что компьютер "свихнется" схожим с человеком способом. Что собственно и произошло".

Фото: AP

Интересно, что приняв такую точку зрения, исследователи заявили о том, что намерены продолжать работу над сведением компьютера с ума, чтобы лучше понять процессы в больном человеческом мозгу и, возможно, научиться их корректировать. Они считают, что находятся на правильном пути, ведущим к расшифровке самого процесса возникновения и развития шизофрении. Однако некоторые их коллеги не уверены, что ученым из Техаса удалось правильно интерпретировать результаты проведенного эксперимента.

Читайте также: У роботов появится собственный интернет

В частности, научный сотрудник лаборатории информационных технологий управления робототехники Санкт-Петербургского института информатики и автоматизации РАН Алексей Бакурадзе считает, что возможно, этот сбой произошел потому, что при конструировании сети Discern-а исходно была допущена ошибка. Ученый отмечает, что, возможно, сама сеть была построена неэффективно, и  в результате неоптимальная структура не сумела обеспечить самообучение системы, которая и  повела себя как шизофреник.

Тем не менее, он согласился с тем, что у человеческой и компьютерной шизофрении действительно может быть одна и та же причина — нарушение нормального функционирования системы обработки информации. Однако насколько данные случаи тождественны — пока сказать сложно. Чтобы подтвердить или опровергнуть данное предположение, видимо, потребуется еще ряд похожих экспериментов.

Читайте самое интересное в рубрике "Наука и техника"