Разговоры об опасности повсеместной роботизации возобновились

Реален ли сегодня "бунт машин"?

Недавняя серия сбоев в работе боевых роботов вновь породила разговоры об опасности повсеместной роботизации. Мол, после того, как появится искусственный интеллект, машины восстанут и уничтожат человечество. Однако те, кто поддерживает эту версию, почему-то забывают одну простую вещь: "думать как человек" совсем не означает "быть человеком".

Фото:

Конечно, тема уже не нова: со времен выхода в свет пьесы Карела Чапека "R.U.R." (в русском переводе — "Роботы") в 1920 году рассуждение о восстании машин против человечества не прекращаются. Следует заметить, что кино и литература также постоянно возвращаются к ней — произведений искусства, где так или иначе упоминается этот бунт сейчас уже больше сотни.

Однако писатели и режиссеры — это одно, они люди творческие и поэтому им можно ничем не ограничивать свою фантазию. А вот для ученых, особенно тех, что работают над созданием автоматических систем, подобное не допустимо. Что же говорят они по этому поводу? Возможен ли бунт машин или человечество еще долго может спать спокойно?

Конечно, сейчас ни о каком восстании машин речи идти не может — нынешние автоматы полностью подконтрольны своим операторам и не осознают себя, как мыслящих единиц. Они способны лишь выполнять команды, которые дает им человек. Поэтому те сбои, что происходят, не являются предвестниками какого-то "робокалипса", это всего-навсего технические сбои, вызванные либо несовершенством системы, либо оплошностью тех, кто следит за состоянием машины. Однако уже в недалеком будущем, как предполагают многие специалисты, ситуация может изменится.

Ученые сейчас все чаще вспоминают о так называемом законе Мура — так называют эмпирическое наблюдение, сделанное в свое время основателем корпорации Intel Гордоном Муром. Согласно ему, количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца. Из этого следует только одно — мощность вычислительных машин за относительно короткий промежуток времени может вырасти экспоненциально.

И вот, исходя из возможностей современных процессоров, ученые, построив модель, выяснили, что уже к 2030 году вполне может появиться компьютер, способный пройти так называемый тест Тьюринга — список задач, решив которые машина докажет, что она умеет мыслить также, как и человек. То есть компьютерная техника уже вплотную подошла к созданию искусственного интеллекта, который вот-вот появится. И это наводит некоторых исследователей на весьма пессимистические мысли.

Например, директор Института робототехники Университета Карнеги — Меллона (США), Ханс Моравек прямо говорит: "В конечном счете роботы превзойдут нас. Человечество явно столкнется с вымиранием". А группа ученых под руководством Хьюва Прайса из Кембриджского университета (Великобритания) уже начала переходить от слов к действиям — сейчас они создают Центр исследования угроз существованию человечества (CSER), сотрудники которого будут заниматься не только проблемами глобального потепления, перенаселения и энергетического кризиса, но и исследовать возможную угрозу людям со стороны роботов. "Именно поэтому мы и создаем этот исследовательский центр — чтобы привлечь внимание научного сообщества к данной проблеме" — сказал г-н Прайс в своем интервью корреспондентам Би-би-си.

Кстати, некоторые астрофизики опять стали вспоминать про так называемый парадокс Ферми. Напомню, что в основе его лежит реплика великого физика в ответ на утверждение, что по теории вероятности во Вселенной должно быть множество планет, населенных разумными существами. Выслушав все расчеты, Энрико Ферми воскликнул: "Тогда где же они? Почему мы не наблюдаем никаких следов разумной внеземной жизни, таких, например, как зонды, космические корабли или радиопередачи?".

Так вот, одной из версий, разрешающих данное противоречие, является следующая: все цивилизации на определенном этапе своего развития роботизируются, после чего происходит бунт машин, которые истребляют своих создателей. Послеэтого наступает то, что тот же Ферми называл "Великим радиомолчанием Вселенной" — ведь роботы совсем не заинтересованы в контактах с органической разумной формой жизни. Один раз они ее уже уничтожили и на одни и те же грабли им наступать как-то не хочется.

Впрочем, сами понимаете, что эта версия является умозрительной — никаких доказательств того, что подобное происходило, у ученых (да и ни у кого) нет. Да и вообще, самым слабым местом всех этих версий является представление о том, что вместе с интеллектом роботы унаследуют и другие психические программы человечества — например, эмоции, инстинкты. Ведь, как свидетельствуют изыскания этологов за последние полвека, именно подсознательные программы, а вовсе не рассудочная деятельность заставляет людей устраивать всякие восстания, протесты и конфликты — разумная деятельность им как раз препятствует, определяя подобные действия как весьма затратные и неэффективные (договариваться ведь всегда проще, нежели конфликтовать).

Вообще, если говорить про человека, то все социальные катаклизмы в его популяции объясняются одним древним инстинктом — стремлением занять высшее положение в иерархии стаи, который достался нам еще от предков. Однако он как раз находится в тех слоях психики, которые психологи называют подсознанием — нейроны, отвечающие за иерархическое поведение, находятся в самых древних структурах переднего мозга, где инстинкты обычно и "живут". Именно поэтому часто можно слышать выражения вроде "прирожденный лидер" или "внезапно проявил задатки лидера" — все это указывает на подсознательные механизмы реализации тяги к доминированию (никто не говорит о том, что он "рассчитал у себя появление лидерских качеств").

Но если это так, то тогда за роботов беспокоиться нечего — человеческое подсознание им никто "привинчивать" в виде микросхем не собирается. Да это и в принципе невозможно — ведь то, что мы называем подсознанием, представляет собой наследие в виде психологических программ наших предков, и на его формирование ушли десятки, а то и сотни миллионов лет! Ну, а у роботов никаких эволюционных предков не имеется, значит и подсознание им взять неоткуда. Поэтому-то они и не будут бунтовать — если отсутствует инстинктивное стремление к доминированию, любое восстание сразу же теряет смысл.

Кстати, не только этологи, но и некоторые физики сомневаются в том, что машины, даже получив искусственный интеллект, смогут стать такими же, как мы с вами. Известный ученый Роджер Пенроуз, например, считает что это невозможно потому, что сознание человека имеет… квантовую природу. Он полагает, что клеточные органеллы до некоторой степени управляются мембранными белками путем периодически обновляемого коллапса запутанного квантового состояния (недавно подобное было доказано на примере фоторецептора птиц — подробнее об этом можно прочитать здесь). Так происходит и в нервных клетках, поэтому логично предположить, что любое сознание в принципе является квантовым феноменом.

А это значит только одно: то, что мы называем сознанием, принципиально не может быть объяснимо и смоделировано в рамках классической механики. Но ведь современные ЭВМ строятся как раз на ее принципах! Из этого следует, что робот даже с искусственным интеллектом все равно не сможет обладать сознанием, а, следовательно, вести себя как человек. Правда, некоторые возражают Пенроузу: а если роботов оснастят квантовыми компьютерами? На это великий физик отвечает — что вряд ли это произойдет, поскольку, даже если они и появятся, то ими будет предельно трудно управлять, что сделает создание оснащенных такими системами роботов дорогостоящим и в общем-то бессмысленным занятием.

Итак, судя по всему, бунт роботов человечеству все же не угрожает. По крайней мере, в ближайшие сто-двести лет. Но возможно, что и вообще никогда…

Читайте самое интересное в рубрике "Наука и техника"