«Я привлекателен или нет?»: почему люди спрашивают ChatGPT о суровой правде и чем это может быть опасно

Многие также просят бота составить план по улучшению их внешнего вида. Пользователи говорят, что бот, в свою очередь, рекомендует конкретные продукты — от краски для волос до ботокса. Некоторые люди говорят, что потратили тысячи долларов, следуя советам искусственного интеллекта. Эта тенденция свидетельствует о готовности людей полагаться на чат-боты не только в вопросах информации и фактов, но и в субъективной оценке красоты.

«Люди пропускают информацию через призму своих предубеждений и привносят свою субъективность в такого рода неоднозначные вопросы, — сказала 32-летняя Аня Ручински, живущий в Сиднее. — ChatGPT обеспечивает уровень объективности, которого невозможно достичь в реальной жизни».

Некоторые пользователи считают, что ответы ИИ более беспристрастны, но эксперты говорят, что эти инструменты обладают скрытыми предубеждениями, которые отражают данные, на которых они обучаются, или финансовые стимулы их создателей. Когда чат-бот говорит, он обращается к огромному массиву интернет-контента, начиная от рецензируемых исследований и заканчивая женоненавистническими веб-форумами. Технологи и критики в сфере красоты говорят, что обращаться к инструментам искусственного интеллекта за отзывами о нашей внешности рискованно.

По мнению аналитиков, по мере того как компании, использующие ИИ, начинают предлагать рекомендации по покупкам и продуктам, чат-боты могут также стимулировать потребителей тратить больше. «ИИ просто повторяет то, что видит в интернете, и многое из этого было создано для того, чтобы люди чувствовали себя плохо и покупали больше товаров», — сказала аналитик по коммерции из Forrester Эмили Пфайффер.

Тем не менее, многие потребители говорят, что ценят критику со стороны чат-бота, который предлагает иной взгляд, нежели их друзья и родственники. 32-летняя Кайла Дрю сказала, что обращается к ChatGPT за советом по «всему», от того, как украсить свой дом, до того, что купить в продуктовом магазине. Недавно она попросила бота дать ей честный отзыв о том, как она может выглядеть более привлекательно. Он предложил ей варианты для кожи, волос, бровей, ресниц, макияжа и одежды — и Дрю последовала его советам. На данный момент она потратила около 200 долларов.

Если бы реальные люди в ее жизни прямо сказали ей, что она выглядит плохо, это, вероятно, задело бы ее за живое, считает Дрю. Но от ChatGPT все это звучит более приемлемо. «Сегодня я спросила, можно ли отбелить зубы, а он ответил: "Убедитесь, что у вас хорошая гигиена полости рта", и я подумала: "Черт, никто другой не подошел бы ко мне и не сказал бы такое в лицо. Это было здорово, потому что, думаю, мне нужно было это услышать".

По словам Джессики Дефино, бьюти-критика, пользователи считают ChatGPT более объективным мерилом красоты, потому что, в отличие от друзей и семьи, он не учитывает такие качества, как доброта или чувство юмора. Стандарты красоты в эпоху интернета превращают человека в объект, а что может быть лучше для оценки объекта, чем спросить об этом другой (созданный с помощью ИИ) объект? «Если мы пытаемся оптимизировать себя как красивые объекты, мы не можем учитывать мнение человека, который, скажем, влюблен в нас», — сказал Дефино.

В этом месяце компания OpenAI заявила, что обновляет ChatGPT, чтобы он показывал товары — включая изображения, описания и ссылки — когда пользователи совершают покупки. Некоторые эксперты в области технологий и красоты предупреждают, что предложения бота служат целям его создателя, а не пользователя.

Компаниям, работающим в сфере ИИ, нужны новые источники дохода — некоторые из них тратят миллиарды на создание и поддержку инструментов ИИ. Один из возможных путей развития — показ чат-ботам спонсируемых продуктов и рекламы. Компания Perplexity AI уже включила функцию покупок в интерфейс своего чат-бота, а категория «Красота» является третьей по популярности после «Здоровья» и «Обуви», сообщил представитель компании.

По мере появления функций для совершения покупок потребители могут начать видеть рекомендации по продуктам, не понимая, почему бот выбирает именно эти продукты, говорит Пфайффер из Forrester. Бот может, например, черпать идеи у знающего визажиста на YouTube или из подлой ветки на Reddit. Он может придумать поддельный продукт или сделать ложные заявления о реальном продукте, сказала она. Его обучающие данные настолько обширны и непрозрачны, что бот становится уязвимым для предвзятости и ошибок.

Но те же самые обучающие данные могут дать чат-ботам преимущество в качестве помощников по покупкам и уходу за собой по сравнению с традиционными поисковыми системами, сказал представитель Perplexity Джесси Дуайер. Вместо того чтобы тратить часы в сети в поисках идеального средства против старения, покупатель может объяснить боту, что он устал от темных кругов под глазами и морщин и хочет что-то, что поможет.

В идеале бот должен понять пользователя и сэкономить его время на покупках, сказал Дуайер. Так, одно видео в TikTok, в котором ChatGPT попросили дать рекомендации, набрало более 220 000 просмотров и множество положительных комментариев.

Пользователи, которые попросили ChatGPT дать отзыв об их внешности, все чаще говорят, что довольны результатами, даже когда бот указал на предполагаемые недостатки. 39-летняя Микаэла Лассиг из штата Вашингтон попросила ChatGPT помочь ей преобразиться перед свадьбой. В своем запросе она рассказала боту о своих целях (безупречная, молодая кожа), бюджете (2500 долларов) и сроках.

«В идеале вы должны предоставить мне список процедур или услуг и сказать, когда их нужно сделать, чтобы к 16 июля моя кожа и лицо выглядели наилучшим образом», — обратилась она к боту. Он выдал подробный список признаков старения на ее лице. Но в итоге она приняла рекомендации — он даже правильно подсчитал количество единиц ботокса, которые порекомендовал бы ее косметолог. Лассиг сказала, что она тщательно формулировала запрос, чтобы сосредоточиться на своих личных целях, а не на каком-то универсальном стандарте.