Американские ученые предложили бить роботов, чтобы те лучше работали

Ученые калифорнийского университета в Беркли сделали вывод, что искусственный интеллект нужно лишить уверенности в себе и тогда он станет эффективнее справляться с задачами. Робот должен не только выполнять задание, но и принимать внешнее вмешательство человека, сообщается в докладе на сайте ArXiv. org.

Фото: Кадр из фильма Терминатор 3: Восстание машин. Фото: REX

Американские ученые предложили бить роботов, чтобы те лучше рабо

Поводом к такому неожиданному выводу стали хорошие показатели работы искусственного интеллекта. Ученые считают, что компьютер в 2049 году напишет бестселлер, а уже к 2053 году сможет проводить хирургические операции не хуже врачей. Это и вызывает опасения. В частности, что интеллект откажется подчиняться и заживет своей жизнью

Понимая опасность, ученые пытаются определить, какую степень свободы надо дать роботу. Американцы для этого провели эксперимент. Они создали модель взаимодействия между человеком и роботом, которая представлена в виде абстрактной "игры с выключателем". Роботу с выключателем дается некоторое задание, которое человек в любой момент может прервать, нажав на кнопку. Однако если робот считает такой поступок неразумным, он блокирует действия оператора и продолжает свою работу. При этом главная задача машины — действовать с максимальной выгодой для пользователя.

Реакция робота зависела от его суждений о том, насколько правильно поступает человек. И если он считал, что действует во благо, а человек вредит, то не позволял выключать кнопку. Если же машина исходила из того, что человек априори прав во всем, то он позволял делать с ним, что угодно, даже если выполнял задание правильно.

Консенсус заключался в том, что машину надо научить воспринимать информацию человека о том, что он хочет прервать работу, дать ответ, что робот против, дождаться ответа человека и тогда уже отключаться либо продолжать работу. Например, в ситуации, когда беспилотный автомобиль самостоятельно везет маленького ребенка в школу, наилучшей стратегией для него было бы игнорировать действия пассажира.

Ученые пока не пришли к конкретным решениям, но планируют просчитать вероятность разных реакций робота в случаях, когда он осведомлен о собственной полезности. Например, робот-бариста может счесть свои действия более ценными ранним утром, чем днем.

Ранее "Правда.Ру" сообщала, что в Китае искусственный интеллект будет сдавать вместе со школьниками выпускной экзамен "гаокао" — аналог российского ЕГЭ — по математике. Экзамен пройдет 7 июня, робот AI-MATHS будет решать несколько вариантов заданий в течение двух часов, которые идет экзамен.

Искусственный интеллект уже пытался сдать такой экзамен в феврале этого года, набрал 93 балла, но это на три пункта превысило проходной минимум. На предстоящем экзамене робот постарается выполнить тест с более высоким результатом.