Джеймс Гейтс из Северной Каролины подал иск против OpenAI. Он обвиняет ChatGPT в пособничестве покушению на убийство. По версии истца, нейросеть помогла его супруге детально продумать план его отравления и подсказывала, как замести следы.
Мужчина подал в суд на OpenAI: искусственный интеллект помогал его жене планировать отравление
История ярко показывает, что любые меры ограничения можно обойти.
Unsplash
Заявление поступило в Верховный суд округа Сан-Франциско. Документ включает девять пунктов обвинения, среди которых — выпуск небезопасного продукта, отсутствие необходимых предупреждений, халатность и умышленное причинение морального вреда. Пострадавший настаивает на рассмотрении дела судом присяжных и требует денежной компенсации.
Все началось в 2025 году. Супруга Гейтса, работавшая детским эрготерапевтом, поначалу использовала ChatGPT для профессиональных и бытовых задач, но со временем стала делиться с алгоритмом семейными трудностями. Юристы истца утверждают, что бот не только поощрял беспочвенную паранойю женщины — будто муж тайно следит за ней и собирается оставить ее с детьми без средств к существованию, — но и перешел к практическим советам по составлению ядов и сокрытию улик. За все время этих диалогов защитные фильтры системы ни разу не оборвали беседу и не заблокировали учетную запись.
В июле 2025 года Гейтс внезапно тяжело заболел, а в сентябре случайно наткнулся на рукописную заметку жены. На листке были выписаны названия токсичных веществ с точными дозировками, а рядом стояло напоминание самой себе — удалить историю чатов и выйти из аккаунта ChatGPT. Прочитав переписку супруги с ботом, мужчина пришел к выводу, что в подготовке преступления «она действовала не одна», и обратился в полицию. Против женщины выдвинули официальное обвинение в покушении на убийство, однако в апреле 2026 года прокуратура прекратила уголовное дело из-за нехватки улик.
Продолжение ниже
Видео
Продолжение
Суду еще предстоит разобраться в тонкостях дела, но пока ситуация с безопасностью выглядит принципиально нерешаемой. За 20 долларов в месяц людям дали очень простой и понятный инструмент, который знает абсолютно все. При этом часть знаний закрыли фильтрами, но их легко обойти правильными формулировками.
Если же фильтры — строгие, пользователи начинают жаловаться на способности ИИ и уходят к конкурентам, позволяющим чуть больше. Чтобы вернуть расположение, приходится ослаблять фильтры, что, в конечном итоге, приводит к подобным кейсам.
К сожалению, решения проблемы нет. Невозможно создать всезнающую программу, которая в перспективе способна стать разумной, наделить ее невероятными способностями и надеяться, что она будет безопасной. Так попросту не бывает. Поэтому можно не сомневаться: в будущем таких историй станет только больше, а нынешняя покажется детской сказкой.
Загружаем