Почему лица, созданные ИИ, вызывают больше доверия?

Исследование, результаты которого были недавно опубликованы в журнале Journal of Vision, стало первым в истории, посвященным оценке достоверности лиц, созданных с помощью новейших технологий. Авторы работы стали ученые Ланкастерского, Стэнфордского и Калифорнийского университетов.

Комментируя полученные результаты, аспирантка кафедры психологии Ланкастерского университета Алексис Макгуайр отметила: «Наше исследование показывает, что люди рискуют быть обманутыми изображениями, созданными с помощью ИИ. Такие модели демократизировали онлайн-пространство, и любой человек без технических навыков может создавать поддельные лица, которые могут быть использованы для различных целей».

По словам ученой, важно информировать общественность о простоте создания таких изображений, потенциальных злоупотреблениях и способах, которыми люди могут стать жертвами. Речь, например, идет о распространении дезинформации и мошенничествах с персональными данными.

Люди отлично справляются с обработкой реальных лиц и автоматически оценивают их всего за 100 миллисекунд. Однако лица, созданные искусственным интеллектом, выглядят очень реалистично и становятся все более заслуживающими доверия. Новые, более совершенные технологии создают поддельные изображения, которые примерно в трети случаев могут обмануть людей и заставить поверить в их подлинность.

Когда 169 участникам было предложено рассмотреть набор из 96 лиц и указать, является ли то или иное реальным или синтезированным ИИ, средняя точность ответов составила 58,4%. Это лишь не намного лучше, чем случайное угадывание (аналогично подбрасыванию монеты с вероятностью 50%).

В последующем эксперименте новой группе участников было предложено оценить степень доверия к 96 лицам по шкале от одного (очень не заслуживающее доверия) до семи (очень заслуживающее доверия). Добровольцы оценивали реальные лица как наименее заслуживающие доверия, средний рейтинг доверия составил 4,03.

Оба типа лиц, синтезированных ИИ, были оценены как более заслуживающие доверия, чем реальные. При этом лица, созданные с помощью диффузионной модели, были более заслуживающими доверия, чем как реальные, так и созданные с помощью GAN. Лица, созданные с помощью GAN, получили средний рейтинг доверия 4,36, а лица, синтезированные с помощью DM, стали наиболее заслуживающими доверия со средним рейтингом 4,70.

Недоумение исследователей вызывает тот факт, что лица, созданные с помощью нового алгоритма диффузии, оцениваются как менее реалистичные, чем лица, созданные более ранней моделью. Однако лица, созданные с помощью DM, все еще считаются наиболее заслуживающими доверия, чем реальные.

«Это открытие представляет собой парадокс и подчеркивает возможность того, что суждения о реализме и достоверности обусловлены двумя различными психологическими механизмами», — отметила Алексис Макгуайр. Ученая предупредила, что лица, созданные с помощью новейших технологий цифровой фотографии и искусственного интеллекта, могут способствовать общему подрыву доверия в обществе.

По ее словам, по мере того как изображения, созданные с помощью ИИ, становятся более сложными, но доступными, люди все чаще сталкиваются с искусственно созданными лицами. Зачастую они генерируются в «гнусных и эксплуататорских сценариях», для политической дезинформации, финансового и личного мошенничества, а также мошенничества с использованием чужих личных данных.

Команда подчеркивает крайнюю важность понимания угрозы, которую несет демократизация генеративного ИИ. Кроме того, они заявляют о необходимости разрабатывать стратегии для смягчения потенциального вреда для отдельных лиц, организаций и демократических государств.