Учёные опровергли мифы о неконтролируемых возможностях ИИ

Новое исследование, проведенное группой учёных из Технического университета Дармштадта под руководством Ирины Гуревич и Университета Бата под руководством Хариша Тайяра Мадабуши, оспаривает распространенные опасения по поводу самостоятельности больших языковых моделей (LLM), таких как ChatGPT.

Фото: freepik.com is licensed under public domain

Результаты исследования показывают, что современные LLM не способны выходить из-под контроля и действовать автономно.

Хотя использование ИИ может сопровождаться нежелательными последствиями, исследование утверждает, что эти модели ограничены в своих возможностях и не могут обучаться или развиваться без активного участия человека.

"Наше исследование демонстрирует, что страх перед нежелательными и непредсказуемыми действиями моделей не обоснован", — отмечает Тайяр Мадабуши.

Несмотря на то что LLM могут вести достаточно связные беседы и их сложность продолжает расти, им по-прежнему не хватает важных навыков, таких как оценка достоверности информации. Исследование подтверждает, что пока модели действуют в рамках заданного им программирования, поводов для беспокойства нет.

Тем не менее учёные подчеркивают, что реальную угрозу могут представлять не сами технологии, а человеческий фактор. С ростом использования ИИ увеличиваются риски, связанные с распространением фейковых новостей и цифровым загрязнением.

"Нам нужно сосредоточиться на рисках, которые могут возникнуть из-за использования этих технологий, а не на их потенциальных угрозах как самостоятельных систем", — отмечает Ирина Гуревич.

Уточнения

Иску́сственный интелле́кт в самом широком смысле – это интеллект, демонстрируемый машинами, в частности компьютерными системами. Это область исследований в области компьютерных наук, которая разрабатывает и изучает методы и программное обеспечение, позволяющие машинам воспринимать окружающую среду и использовать обучение и интеллект для выполнения действий, которые максимально увеличивают их шансы на достижение поставленных целей. Такие машины можно назвать искусственным интеллектом. == Литература == Компьютер учится и рассуждает (ч. 1) // Компьютер обретает разум = Artificial Intelligence Computer Images / под ред. В. Л. Стефанюка. — Москва: Мир, 1990. — 240 с. — 100 000 экз. — ISBN 5-03-001277-X (рус.); ISBN 0705409155 (англ.). Арсеньев А. С., Ильенков Э. В., Давыдов В. В. Машина и человек, кибернетика и философия. — Собрание сочинений. Т. 3. — М.: Канон плюс, 2020. ISBN 978-5-88373-579-9 Бруссард М. Искусственный интеллект. Пределы возможного. — М.: Альпина нон-фикшн, 2020. — ISBN 978-5-00139-080-0.