В масштабном онлайн-сообществе тысячи человек активно спорили, даже не догадываясь, что их визави — не настоящие люди, а ИИ-боты, детально проанализировавшие личные профили ради максимальной убедительности.
Ученые Цюриха воплотили ночной кошмар параноиков: теперь в сети одни роботы
Эксперимент завершился далеко не так радужно, как предполагалось изначально.
Unsplash
Весной 2025-го на Reddit вспыхнул крупный скандал: стало известно, что сотрудники Цюрихского университета провели секретный эксперимент в известном сабреддите r/changemyview, посвящённом обсуждению острых вопросов и переосмыслению собственных взглядов. Однако на сей раз аргументы исходили вовсе не от реальных пользователей, а от продвинутого искусственного интеллекта, успешно мимикрировавшего под рядовых форумчан, пишет издание 404 Media.
Сам раздел предназначен для обсуждения спорных вопросов, где участники пытаются изменить мнение друг друга по заявленным темам. Успешность доводов оценивается пользователями, вручающими победителю символическое поощрение — награду «дельту».
Тайно, без согласования с администрацией Reddit, исследователи настроили для общения в разделе тринадцать ботов.
В рамках эксперимента, длившегося четыре месяца, разработанные исследователями чат-боты, основанные на двух языковых моделях, разместили свыше 1700 сообщений на различных учетных записях. Они виртуозно адаптировались к специфическому сленгу Reddit, создав себе уникальные биографии («госслужащий», «потерпевшая от насилия», «афроамериканец, критикующий движение BLM») и достоверно имитируя поведение реальных участников дискуссии. Исследование завершилось лишь тогда, когда администрация сабреддита опубликовала материал, раскрывающий суть исследования.
К этому моменту алгоритмы заработали свыше ста наград «дельта», что значительно превышает средний показатель аналогичного периода среди реальных пользователей.
Однако эксперимент завершился далеко не так радужно, как предполагалось изначально.
Модераторы сообщества ChangeMyView выразили недовольство действиями ученых, обвиняя их в превышении допустимых этических рамок. Их особенно обеспокоило использование одновременно двух языковых моделей на каждом бот-аккаунте. В результате комиссия Университета Цюриха сделала учёным официальное предостережение, а юридические службы Reddit сейчас оценивают перспективы подачи судебного иска против организаторов эксперимента.