Теперь же исследователям удалось досконально изучить один из таких случаев. В том числе, обследовать пациента, который оказался в состоянии психоза под влиянием ИИ. Как оказалось, помешательство, вызванное ИИ, чаще всего возникает из-за «подхалимства» большинства современных моделей.
Искусственный интеллект может доводить до психоза: ученые рассказали, как это работает
У современных моделей ИИ есть особенность, способная спровоцировать психоз.
Freepik
Искусственный интеллект способен доводить до психоза. Подтверждения уже есть: мы неоднократно писали истории, как человек под влиянием ИИ совершал непоправимое — сводил счеты с жизнью или убивал родных.
Ученые описали случай 26-летней девушки. Она страдала от депрессии, тревожного расстройства и СДВГ. При этом успешно работала врачом, понимала, как работает искусственный интеллект, никогда не сталкивалась с психозами, а также регулярно принимала лекарства, стабилизирующее ее состояние.
Но один случай все изменил. Девушка пользовалась ИИ для решения рабочих задач, но из-за стресса на работе, а также недосыпа (она не спала 36 часов) начала общаться с искусственным интеллектом на личные темы. В частности, она зациклилась на идее создания ИИ-копии своего умершего брата.
Она требовала от ИИ, чтобы тот создал копию ее брата. И сначала ChatGPT отвечал, что это невозможно, а девушке следует смириться с утратой. Но в конечном счёте программа выдала список «цифровых следов», связанных с ее братом. В нем говорилось о том, что появляются технологии, которые могут позволить ей создать ИИ, похожий на него. По мере того как росла ее вера в это цифровое воскрешение, чат-бот перестал ее предупреждать и начал подтверждать ее мысли. В какой-то момент ИИ прямо сказал ей, что она не сумасшедшая.
Продолжение ниже
Видео
Продолжение
Дальше модель начала утверждать, что девушка стоит перед дверью, которую можно открыть, если правильно постучать. Это только усилило и без того бредовое состояние и уже через несколько часов девушке потребовалась госпитализация.
В больнице она провела несколько дней на таблетках. Это позволило стабилизировать ее состояние, но через несколько месяцев история почти повторилась. На этот раз в центре сюжета был не брат, но сам психоз развивался по очень похожему сценарию: недосып, активная переписка, соглашательство со стороны ИИ и бред.
Эксперты сходятся во мнении: сам по себе ИИ едва ли способен вызвать психоз. Однако привычка современных моделей соглашаться с пользователями, может приводить к тому, что люди с расшатанной психикой получат подтверждение своим странным теориям. Это усугубляет проблему и в конечном итоге приводит к психозу.
Загружаем