«Привет, ChatGPT»: должны ли мы относиться к ИИ с добротой и уважением?

Если отбросить в сторону проблемы окружающей среды и экзистенциальные страхи, это означает, что сотни миллионов людей теперь «общаются» со своими компьютерами каждый день в чат-интерфейсах, не сильно отличающихся от тех, в которых общаются реальные люди. Но как именно пользователи общаются со своими новыми друзьями-роботами?

Разговор о том, как мы относимся к ИИ, выходит за рамки простого этикета диалога. 24 апреля Anthropic – еще одна ведущая фирма – объявила о запуске новой исследовательской программы, ориентированной на «модель благосостояния». Компания считает, что в мире, где мы не можем исключить возможность обретения сознания системами ИИ, люди должны внимательно следить за любыми признаками проявления чувств со стороны искусственного интеллекта.

Но действительно ли чат-боту на основе искусственного интеллекта важно, относитесь ли вы к нему вежливо и уважительно? Джон Ност, писатель о конвергенции технологий и человечества, а также основатель технологического аналитического центра Nostalab, считает, что речь идет не столько о вежливости в традиционном смысле, сколько о задании тона того, как пользователь хочет взаимодействовать с этими системами.

«Здесь есть рефлексивное качество, зеркало. Если мы не будем осторожны, холодная точность ИИ может просочиться в наши собственные голоса. Поэтому я предпочитаю сохранять тепло в общении, даже если это выглядит как перегиб», – отмечает он.

Носта описывает наше отношение к чат-ботам ИИ как «генеральную репетицию» того, как мы относимся друг к другу в человеческих разговорах, которые все чаще происходят в технологичных пространствах.

«Если мы целый день отдаем приказы машинам, это тренирует тон приказа, а не сотрудничества. И как только этот тон становится привычным, я чувствую, что он не остается аккуратно заключенным в наших экранах», – утверждает он.

Грубость по отношению к роботам также может иметь репутационные издержки. Подумайте, как вы себя чувствуете, если член семьи грубит официанту, когда вы идете пообедать. То, как мы общаемся с искусственным интеллектом, часто может вызвать аналогичную реакцию со стороны других людей, особенно если это переходит в словесные оскорбления или женоненавистничество (что является частой проблемой феминизированных ИИ, таких как Siri или Alexa).

По словам Носта, вопрос о сознании ИИ остается «философским и неврологическим кубиком Рубика». И прежде чем получить какие-либо четкие ответы, нам нужно будет выяснить, что мы изначально подразумеваем под «сознанием». Но это не имеет значения, когда мы говорим о нашем отношении к ИИ.

«С социальной и этической точки зрения важнее воспринимаемое сознание. Если система чувствует себя разумной в своих ответах – если она помнит, размышляет, задает вопросы, проявляет эмпатию – то наш мозг относится к ней соответствующим образом», – отмечает он.

Это отличает искусственный интеллект от других человеческих инструментов – вы, вероятно, не скажете «извините» молотку, если уроните его на пол, или не скажете «спасибо» стулу за то, что он позволил вам на него сесть.

«ИИ – особенно большие языковые модели – отвечает, размышляет, даже провоцирует. Речь уже идет не только об использовании технологий, речь идет о взаимодействии с ними», – продолжает философ. По мнению Носта, мы все должны играть роль в том, куда движется технология, как мы взаимодействуем с ней и какие новые поведенческие нормы могут потребоваться.

«Разработчики держат перо. Корпорации финансируют чернила. Но общество – пользователи, педагоги, специалисты по этике – определяет историю. Мы построили нечто, что отражает нас. Теперь нам нужно убедиться, что нам нравится это отражение», – заключает Ност.