Машины и люди: Кто кого "передумает"

Элон Маск, основатель компании по производству электромобилей Tesla Motors, и Сэм Альтман, президент инкубатора стартапов Y Combinator, создали некоммерческую организацию OpenAI, связанную с развитием искусственного интеллекта. Основной посыл — сделать данные технологии доступными для каждого, что позволит значительно снизить риски.

Фото: Источник фото: REX

Раскрытие кодов программного обеспечения искусственного интеллекта

Футурологи периодически говорят об угрозах, которые несет с собой развитие машинного интеллекта. Ведь если предположить, что он сможет достичь "сверхчеловеческого" уровня, машины могут попросту захватить мир и подчинить себе людей. Но это конспирологический вариант.

"В той точке, где мы сейчас, ни одна система искусственного интеллекта (ИИ) не способна захватить мир — и не сможет в обозримом будущем", — комментирует аспирант Университета штата Аризона Майлз Брендейдж, специализирующийся на человеческих и социальных аспектах науки и технологий.

Куда более реальной выглядит перспектива того, что в конце концов высокие технологии окажутся в руках отдельных крупных корпораций, которые таким образом получат власть над человечеством и смогут манипулировать им.

Чтобы избежать подобной опасности, можно ввести в "обычай" для компаний, связанных с ИИ, раскрывать исходные коды своего программного обеспечения. И это уже делается. Так, в начале ноября Google частично раскрыл исходники программного движка так называемых технологий глубокого обучения, позволяющих ИИ распознавать изображения, определять сказанные слова, естественным образом учить иностранный язык… То же сделал и Facebook.

Искусственные нейроны

В основе технологий глубокого обучения лежат обширные сети программного и аппаратного обеспечения, разработчики которых стремятся к тому, чтобы сделать их искусственными аналогами нейронных сетей в человеческом мозгу.

Так, 11 декабря журнал Science опубликовал результаты исследования Руслана Салахутдинова и Брэндена Лэйка из Нью-Йоркского университета, а также Джошуа Тененбаума из Массачусетского технологического института, которым удалось научить компьютер распознавать ту или иную известную систему письменности всего лишь по нескольким десяткам символов. В основе данного алгоритма лежит байесовское программирование, учитывающее вероятностные модели переменных. То есть программа способна распознавать значение символа в любом его написании. Кроме того, она может использовать в процессе обучения ранее полученную информацию, например, осваивать греческий алфавит, опираясь на знание латыни…

На сегодняшний день программе "известны" 1623 рукописных символа из 50 различных систем письменности, в том числе тибетского языка, гуджарати, санскрита, глаголицы и даже несуществующего языка, который используется в мультсериале "Футурама".

Еще пример. Не так давно группа специалистов из Корнелльского и Стэнфордского университетов разработала платформу Robowatch, позволяющую машине самообучаться различным вещам посредством ресурса YouTube. Результаты разработок были представлены на Международной конференции по компьютерному зрению ICCV.

В основе Robowatch лежит масштабная вычислительная система Robo Brain, способная понимать человеческую речь и постоянно обучаться. Для этого она использует источники информации в Сети, а полученные знания передает роботам.

Как известно, на YouTube часто выкладывают видеоинструкции по самым различным вопросам — например, как что-то приготовить, собрать или отремонтировать.

Перед компьютерным мозгом ставится задача, после чего отправляется запрос на YouTube. Робот получает доступ к коллекции видеороликов на нужную тему. Дальше он сканирует их кадр за кадром, отмечая часто появляющиеся объекты и повторяющиеся слова в субтитрах. При этом алгоритм включает в себя подпрограммы для выявления "неподходящих" роликов (например, таких, в которых встречаются нужные ключевые слова, но которые на самом деле ничему не обучают). Скажем, в ответ на запрос о приготовлении тех или иных блюд выдающие рекламу кухонных принадлежностей.

По словам ведущего автора исследования Озана Сенера, недостатка в информации для обучения роботов не ожидается. Так, на YouTube содержится около 180 тысяч роликов о приготовлении омлета и 281 тысяч о том, как завязывать галстук-бабочку.

В недалеком будущем авторы проекта намерены расширить перечень ресурсов, где будет черпать информацию Robowatch. Например, в их состав войдет "Википедия".

Защита от машин

Если искусственным нейронным сетям удастся достигнуть "человеческого" уровня, машины станут мыслить так же, как и люди (или, по крайней мере, близко к людям). Чтобы они не стали нам конкурентами, нам следует их контролировать. Это и является основной задачей OpenAI.

"Разработка, обогащение, доступность технологий защищают людей, — считает один из основателей новой компании, Сэм Альтман. — Делать это — лучший способ защитить всех нас".