Искусственный интеллект поисковой системы DuckDuckGo начал выдавать пользователям информацию о том, что президент США Дональд Трамп скончался от бешенства в начале этого месяца.
Трампа умер от бешенства после того, как его укусил помощник: пользователи Reddit убедили ИИ в смерти президента США
Пользователи Reddit успешно обманули алгоритмы искусственного интеллекта, заставив их поверить в абсурдную историю о заражении ведущих политиков США бешенством.
Unsplash
Как пишет издание Futurism, согласно генерируемым ответам, инфекция была связана с событиями, в которых участвовал вице-президент США Джей Ди Вэнс, якобы умерший от того же вируса незадолго до Трампа.
В качестве подтверждения ИИ-функция ссылалась на статью ресурса WKNA News, который внешне напоминает сайт вещательной компании из Западной Вирджинии. В этом материале утверждалось, что Трамп позволил Вэнсу укусить себя по совету Роберта Кеннеди-младшего, который якобы убедил политиков, что смертельная инфекция способна наделить человека «сверхспособностями».
При этом алгоритм DuckDuckGo также приводил ссылку на реальный репортаж ABC News о жителе Огайо, умершем от бешенства, хотя в оригинальном тексте Трамп не упоминался.
Продолжение ниже
Видео
Продолжение
Первоисточником же этой истории стало сообщество r/poisonai на платформе Reddit, насчитывающее около 45 000 участников. Группа позиционирует себя как источник «проверенной информации», но фактически занимается целенаправленным распространением абсурдной дезинформации для проверки уязвимостей нейросетей.
Ранее участники группы пытались внедрить в сеть ложные данные о том, что синие киты на самом деле оранжевые, а из политого водой кирпича можно вырастить дом. В рамках кампании против ИИ реддиторы массово публиковали сообщения о смерти Вэнса, создавали фальшивые скриншоты постов из социальной сети Truth Social и имитировали обсуждение трагедии.
Когда ИИ-функция браузера Brave также начала повторять этот фейк, участники сообщества выражали удовлетворение тем, что их усилия приносят плоды.
Участники розыгрыша намеренно обвиняли поисковые алгоритмы Google в нечувствительности, когда те правильно классифицировали новость о смерти Вэнса как сатиру. Эта риторика была подхвачена сайтом WKNA News, который эксперты классифицируют как издание «розовой слизи» — ресурс, наполняемый сгенерированным ИИ контентом.
Сайт опубликовал серию материалов, где противоречия между реальностью и вымыслом подавались как конфликт между «свидетельствами очевидцев» и ошибками автоматизированных систем проверки фактов.
В одной из статей даже использовался скриншот с Reddit, чтобы доказать, что системы ИИ якобы ошибочно называют реальные события мистификацией.
В компании Brave заявили, что поисковые системы не могут считаться источником проверенной информации. Представители сервиса пояснили, что алгоритмы выстраивают результаты на основе доступных в сети статей, включая те, что были специально созданы для «отравления» данных. Ответственность за проверку фактов компания возложила на пользователей.
DuckDuckGo отреагировал на инцидент официальным комментарием на Reddit, признав, что систему намеренно обманули. Компания сообщила о решении проблемы и намерении внести изменения в работу функции Search Assist для фильтрации подобных манипуляций.
Ранее исследователи из Cornell Tech уже заявляли, что даже небольшие объемы пользовательского контента могут влиять на ответы ИИ-агентов, если алгоритмы находят и цитируют одни и те же источники, создавая иллюзию достоверности.
Загружаем