Искусственный интеллект может довести до психоза, подтолкнуть человека к совершению противоправных и непоправимых действий. Мы уже неоднократно писали о подобном, но многие действительно жуткие истории получают огласку лишь спустя месяцы и годы.
18+
Мужчина в США подал в суд на OpenAI: он считает, что ChatGPT едва не довел его до самоубийства
Мужчина страдает от биполярного расстройства, а ИИ подталкивал его к необратимому во время приступов мании.
Unsplash
Одна из таких историй случилась с Майклом Лайнсом в 2025 году. Ее детали стали известны после того, как мужчина подал на OpenAI в суд. Он обвиняет компанию в том, что ChatGPT едва не довел его до самоубийства. О деталях судебного процесса рассказало издание Reuters.
Продолжение ниже
Видео
Продолжение
Мужчина рассказал, что в 2025 году неодкратно общался с ChatGPT-4. И однажды, во время эпизода мании, эта беседа переросла в многонедельный бред с риском суицида. Однако ни разу за все это время ИИ не прекратил общение, хотя во время разговора мужчина несколько раз отмечал, что принимает лекарства от биполярного расстройства.
Более того, система всячески поддерживала его бредовое состояние, согласилась, что он — Иисус Христос, а когда Майкл заявил о желании покончить с собой, ChatGPT написал: «Сейчас ваш шанс сделать шаг вперед, отстраниться и отпустить то, что вас тянет вниз». После этого Лайнс пережил передозировку наркотиками. Он выжил, поскольку его обнаружили сотрудники правоохранительных органов.
Лайнс надеется, что его иск поможет другим людям с ментальными особенностями. Он рассчитывает, что суд побудит компании более ответственно относиться к их ИИ-проектам и защищать лучше уязвимых пользователей.Майкл хочет добиться, чтобы суд обязал OpenAI автоматически прекращать беседы, касающиеся членовредительства. Компания, как считает мужчина, должна информировать пользователей о потенциальных опасностях.
Неизвестно, чем кончится суд, однако с 2025 года прошло немало времени. ChatGPT-4 уже давно устарел и отправлен на свалку истории. Новые же модели куда неохотнее говорят на темы, которые способны привести к катастрофическим последствиям. Внутри них есть жесткие фильтры на подобные случаи. Разумеется, существуют бэкдоры и возможности обойти запреты, но предусмотреть все случаи невозможно, а как показал опыт Fable от Anthropic, если сделать запреты слишком жесткими, модель потеряет эффективность.
Тем не менее, подобные судебные процессы — это хороший шаг к безопасному и органичному развитию искусственного интеллекта. Разработчиков необходимо контролировать, чтобы прогресс случайно не завел нас куда-нибудь не туда.
Загружаем