Почему велнес- и фитнес-приложения врут заранее: разбор экспертов

Махима Калла, научная сотрудница Центра цифровой трансформации здравоохранения Мельбурнского университета, и Нушин Назарян, аспирантка Школы вычислительных и информационных систем Мельбурнского университета, приводят такой пример. Алгоритмы, используемые для диагностики кожных заболеваний, часто обучаются на светлой коже. Однако науке уже около 10 лет известно, что это может приводить к ошибочной диагностике у людей с более смуглой кожей.

В недавней статье, над которой работали ученые из десяти стран, представлен более эффективный способ разработки цифровых инструментов для использования в велнес- и фитнес- сфере, а также медицине. Вот о чем говорят исследователи.

Ученые обобщили данные, свидетельствующие о том, что цифровые инструменты в сфере здравоохранения формируются в основном под влиянием евроцентрических подходов. Это означает, что могут игнорироваться разнообразные представления о том, что означает хорошее здоровье и благополучие, чьи тела считаются «нормальными» и какие формы знаний имеют значение. В общем-то, нечто подобное справедливо озвучивают и критики концепции индекса массы тела.

Подчеркивается, что формированием цифровых инструментов занимаются не только технологические компании непосредственно. В процессе участвуют спонсоры и исследовательские институты, которые влияют на то, каким проблемам отдается приоритет и чьи знания признаются легитимными. Зачастую эти учреждения не учитывают более широкий социальный и исторический контекст, влияющий на здоровье и благополучие людей. Это в итоге может причинять непреднамеренный вред.

Так, например, в одном из исследований в больницах США алгоритм для выявления пациентов со сложными медицинскими потребностями работал предвзято. Так как программа учитывала одни аспекты и не учитывала другие, чернокожие не получали адекватную помощь: менее 18% из более 46%.

Кроме того, говорят авторы статьи, с маргинализированными сообществами разработчики часто вообще не консультируются или делают это, когда ключевые решения уже приняты. Это включает, например, консультации о том, является ли цифровой инструмент наилучшим решением той или иной рассматриваемой проблемы.

Предвзятость по отношению к некоторым сообществам мешает этим сообществам вносить значимый вклад в формирование технологий, влияющих на качество оказываемой им помощи. К подобным предположениям могут, например, относиться такие мнения о представителях коренных народов: «Они не обладают цифровой грамотностью» или «Они не будут использовать эту технологию».

Ученые предлагают включить в начальный этап работы над цифровыми велнес- и фитнес-технологиями персонализированный анализ представлений о здоровье и благополучии. Они в том числе говорят о необходимости ответь на четыре вопроса:

При правильном подходе цифровые технологии могут оказывать влияние, выходящее за рамки западного понимания здоровья. Исследователи подчеркивают, что недостаточно просто создавать доступные и технически точные инструменты. Необходимо изменить представления о здоровье. Это, по словам ученых, особенно важно на фоне активной цифровизации и внедрения искусственного интеллекта как в системы здравоохранения, так и в популярные повседневные решения.