В Бразилии 36-летнего фермера задержали после того, как система безопасности ChatGPT обнаружила в его переписке предполагаемые планы убийства восьмилетнего сына. Компания OpenAI передала информацию ФБР, а американские правоохранители уведомили бразильские власти. Об истории рассказала BBC News Brasil.
В Бразилии задержали фермера из-за переписки с ChatGPT. Он планировал убить сына, а его сообщения передали в ФБР
Читать чужие переписки — неэтично, но когда речь заходит о переписках с ИИ, почему-то появляется пространство для обсуждений.
Unsplash
Согласно материалам расследования, мужчина почти два месяца обсуждал с чат-ботом возможное убийство ребенка, нападения на других людей и самоубийство. Он интересовался воздействием токсичных веществ, а также утверждал, что предлагал деньги человеку, который должен был убить его и сына. Следователи пока не подтвердили, что такой человек действительно существовал.
Продолжение ниже
Видео
Продолжение
Полиция получила информацию 16 июня, а спустя три дня задержала фермера в муниципалитете Сан-Габриэл-да-Палья. По версии следствия, предполагаемое преступление могло произойти уже 20 июня. Одним из возможных мотивов правоохранители называют нежелание мужчины платить алименты бывшей партнерше.
Во время обыска полицейские обнаружили четыре флакона с неизвестным веществом и веревку. Содержимое флаконов отправили на экспертизу, а телефон подозреваемого изъяли, чтобы проверить, предпринимал ли он реальные шаги для реализации своих планов.
Сам мужчина отрицает намерение причинить вред сыну. Его адвокат Педру Паулу Песси утверждает, что переписка была лишь набором провокационных высказываний и никаких преступлений его подзащитный не совершал.
Звучит, как очередная победа, но контекст немного меняет точку зрения на историю. Так, 13 августа фермера освободили после 54 дней под стражей. Потому что никто не выдвинул ему обвинений. По всей видимости, у правоохранительных органов просто не хватило свидетельств и фактов, чтобы предъявить мужчине какие-либо обвинения.
Также, бразильская полиция получила не всю переписку, а только сообщения самого пользователя — без ответов ChatGPT. Юристы считают, что отсутствие полного контекста затрудняет оценку доказательств. Сам факт обсуждения преступления с нейросетью еще не доказывает, что человек собирался осуществить задуманное.
Наконец, читать чужие переписки — неэтично. Да, человек должен понимать, что общается не с живым человеком, а с машиной. Все сообщения хранятся на серверах, их в любой момент могут прочитать не только правоохранительные органы, но и сотрудники компании.
Тем не менее, переписки с ИИ сконструированы таким образом, что ощущение общения с ботом очень быстро исчезает. Пользователь быстро начинает искренне верить, что взаимодействует с живым человеком. Причем необычным: он никогда не осудит, говорит уверенно, убедительно и все знает.
И в таких условиях разговор идет очень хорошо. Причем на самые странные темы. Даже такие, которые опасно и неэтично обсуждать с другими людьми.
Загружаем