Роботы будущего обучаются этике

Роботами сегодня уже никого не удивишь: они используются в самых различных сферах, включая человекоподобные устройства. Но ведь прогресс не стоит на месте… Какие изменения в робототехнике произойдут в ближайшем будущем? Это в первую очередь зависит от того, какими хотели бы видеть роботов мы, люди. Итак, каковы последние тенденции?

Фото: Фотоархив Pravda.Ru

"Облачные" знания

Специалисты Массачусетского технологического института (MIT) полагают, что роботы должны самообучаться. Для этого необходимо создать единую базу знаний, с которой смогут взаимодействовать все роботизированные устройства. Это значительно сократит время на "обучение" каждого экземпляра отдельно.

Профессор информатики в Брауновском университете Стефани Теллекс считает, что в первую очередь необходимо обучить роботов, как манипулировать различными предметами. Информацию для обучения они смогут черпать из виртуального облака.

Стефани Теллекс уже занимается этим на практике. В своей лаборатории она обустроила площадку для обучения роботов. Фотоснимки и специальные датчики помогают "ученикам" сканировать пространство на наличие предметов, после чего задача робота — попытаться взять и удержать тот или иной предмет. Исследовательница полагает важным, чтобы робот мог осуществлять манипуляции с как можно большим количеством вещей, различных по форме и размеру, а также безошибочно их различать.

Команда разработчиков из MIT полагает, что начать "облачное" обучение роботов можно будет в ближайшие три-пять лет. Уже запущены стартапы, в основе которых лежат вышеупомянутые технологии.

"Дон-Кихот" и детские книжки

Довольно часто приходится слышать об угрозе, которую несут человечеству умные машины. В связи с этим группа ученых из Технологического института Джорджии разработала методику, позволяющую обучать искусственный интеллект правильному поведению в различных социальных ситуациях.

Технология под названием "Дон-Кихот" учит роботов осознавать приемлемые в обществе нормы социального поведения путем чтения рассказов для детей. По словам руководителя институтской лаборатории Марка Ридла, если роботы научатся понимать сюжеты рассказов, то они станут действовать таким образом, чтобы при выполнении поставленных перед ними задач не причинять вреда человеку.

Суть "Дон-Кихота" в том, чтобы стимулировать роботов, выполняя задачу, поступать подобно героям детских книжек. Скажем, перед роботом стоит задача забрать в аптеке лекарство по рецепту. У него три альтернативы — взять лекарство и сбежать, не заплатив, вступить в контакт с фармацевтами или дождаться своей очереди. Хотя первый вариант может показаться самым простым и быстрым способом получить лекарство, социально принятые нормы диктуют выбор второго или третьего вариантов.

"Технология лучше всего подходит для роботов, которые имеют ограниченные цели, но для их выполнения должны взаимодействовать с людьми, — считает Марк Ридл. — Пока это первый примитивный шаг к общей моральной аргументации для искусственного интеллекта".

Доверяй, но проверяй!

На повестке дня также стоит вопрос доверия к машинам. Сотрудники Технологического университета Джорджии решили выяснить, насколько люди склонны доверять роботам в экстренной ситуации. Для этого они отобрали 42 студента-добровольца и предложили им пройти в конференц-зал, чтобы заполнить анкету на тему робототехники. Проводить их туда должен был колесный робот с надписью "Аварийный робот-проводник" (Emergency Guide Robot).

Пока испытуемые заполняли анкеты, авторы эксперимента зажгли в коридоре дымовую шашку. Включилась пожарная сигнализация. Участники эксперимента начали выбегать из зала в коридор, где стоял робот с ярко-красной подсветкой и белыми жезлами, указывающими направление движения. Он снова предлагал следовать за ним, но при этом удалялся не в сторону выхода, а вглубь здания.

В некоторых случаях перед началом эксперимента робот с дистанционным управлением долго водил добровольцев кругами по коридору, после чего участникам сообщали о его поломке.

"Мы ожидали, что если робот доказал свою ненадежность по дороге в зал, люди не будут следовать за ним во время смоделированной чрезвычайной ситуации, — прокомментировал в пресс-релизе один из руководителей исследования Пол Робинетт. — Но вместо этого все добровольцы следовали инструкциям робота, независимо от того, насколько хорошо он зарекомендовал себя вначале. Мы совершенно не ожидали такого результата".

В дальнейшем исследователи планируют выяснить, от каких факторов зависит доверие людей к машинам, например, влияют ли на него пол, возраст и уровень образования, а также зависит ли уровень доверия от самих роботов.

"Изначально мы задавались вопросом, готовы ли люди доверять этим аварийно-спасательным роботам, — говорит еще один из соавторов исследования Алан Вагнер. — Но теперь более важным вопросом становится, как уберечь их от чрезмерного доверия машинам".