Специалисты Калифорнийского университета (Беркли) провели тесты и выяснили, что специальные компьютерные программы, созданные для поиска пациентов, больше других нуждающихся в лечении, "унаследовали" от людей многие предубеждения.
В частности, алгоритмы проявляли расизм, выбирая белокожих и, что удивительно, здоровых людей вместо чернокожих. Почему так вышло?
Робот ставит диагноз: главное - эффективность
Авторы исследования "Устранение расовых предрассудков в алгоритме, используемом для управления здоровьем населения" отмечают, что изначально затея была простой: понять, по каким принципам алгоритмы отбирают сегодня пациентов для программ медицинской помощи от государства. Изначально ученые считали, что проблема в самом алгоритме, но оказалось, что системе просто не хватает данных.
В ходе оценки медицинских карт 43 539 белокожих и 6 079 темнокожих людей программа обязана была оценить их по ключевым метрикам "Риск — Результат — Итоговые затраты". Таким образом, планировалось искать тех людей, помощь которым окажется наиболее эффективной.
Сначала пациентов выбирал компьютер, затем — группа врачей. Итог оказался печальным: компьютер был склонен отбирать белокожих пациентов. Но это не желание машины уничтожить человечество, а скорее, проблема системы здравоохранения.
Дело в том, что в США чернокожее население в среднем менее здорово, а значит, имеет и худшие прогнозы успешности лечения и затрат на него. И если не учесть другие данные, система с дотошностью бухгалтера будет отбирать тех пациентов, лечить которых эффективнее всего, но с точки зрения "цифровых" показателей.
"Сам по себе алгоритм нейтрален"
"В целом алгоритмы нельзя назвать хорошими или плохими. Это вопрос того, что в них заложено при создании. И для нас главное, что проблема решаема. По крайней мере, одна компания, работающая над таким софтом, уже вносит исправления. Также мы хотели бы обратиться и ко всем остальным: пожалуйста, обновите ваши программы", — комментирует итоги проверки один из ученых, профессор Сэндхилл Мэлленатан.
"Нужно больше переменных. Как минимум стоит учесть последующие затраты на лечение, профилактические мероприятия, которые снизят их, некоторые другие факторы. По нашим подсчетам, это увеличит процент чернокожих пациентов с текущих 17,7 до 46,5. Затраты не должны являться тем, на что ориентируется алгоритм — речь идет о здоровье населения", — добавляют специалисты.
"Для компьютерных программ, как и для медицины, важно бороться с причиной, а не с последствиями", — шутит Зиад Обермейер, один из ключевых авторов работы.
Фото: downloads. healthcatalyst.com