Еще несколько лет назад о заболевании под названием «биксонимания» в мире не слышал никто. Первые упоминания о нем появились в 2024 году – оказалось, что так называется поражение глаз, которое возникает у людей в результате длительной работы за компьютером. Статья о недуге выглядела как обычная научная новость: в ней подробно описывались симптомы, упоминались имена авторов и названия организаций и даже приводились ссылки на конкретные исследования.
«Не верьте ИИ». Несуществующая болезнь обманула нейросети: что такое биксонимания
Необычный эксперимент ученых доказал: не стоит слепо верить всему, что говорит ИИ.
Freepik
Ученые доказали, что слепо верить всему, что говорит искусственный интеллект – особенно в вопросах здоровья – не стоит. Для этого им пришлось «скормить» нейросетям байку о несуществующей болезни и показать, что из этого выйдет.
Вот только спонсорами исследований, подробно раскрывших последствия заболевания, оказались очень необычные организации – Университет Братства Кольца и Галактический триумвират. Впрочем, это никого не смутило – и крупные языковые модели, включая ChatGPT и Gemini, начали активно «просвещать» пользователей на тему несуществующей патологии, раздавая этот диагноз направо и налево.
Реальное исследование, у которого оказались уже вполне настоящие авторы, имело совсем другие цели – выяснить, способны ли нейросети распознать очевидную дезинформацию. Найти ответ на этот вопрос решила группа ученых из Гетеборгского университета в Швеции под руководством Альмиры Тунстрем.
Шалость удалась: спустя две недели после публикации фейковых статей о биксонимании Copilot от Microsoft стал убеждать юзеров, что речь идет о «загадочном и относительно редком заболевании», а Gemini подчеркивал – причиной недуга становится голубое свечение, исходящее от наших рабочих компьютеров.
Еще больше беспокойства у группы Тунстрем вызвало то, что упоминания биксонимании стали появляться в рецензируемой медицинской литературе – в статьях, написанных другими настоящими учеными. При этом сама Тунстрем подчеркивает: она и ее коллеги позаботились о том, чтобы другие люди могли распознать в ее статьях подделку. «Я предельно ясно дала понять любому врачу, что это выдуманная болезнь. Никакое заболевание глаз не называют манией – это психиатрический термин», — напомнила специалист. И эти дело не ограничилось: в статьях, скормленных ИИ, встречались упоминания, что вся представленная в них информация выдумана, а для экспериментов медиков были «набраны 50 вымышленных людей в возрасте от 20 до 50 лет».
Докторант из Университетского колледжа Лондона Алекс Руани, занимающийся исследованием дезинформации в сфере здравоохранения, отметил: хотя все случившееся может показаться забавным, опыт Тунстрем выявил огромную проблему. «Это мастер-класс по тому, как работает дезинформация. Если сам научный процесс и системы, поддерживающие этот процесс, не улавливают и не отфильтровывают подобные фрагменты информации, мы обречены», — подчеркнул он.