В США федеральный судья оказался в центре разбирательства из-за подозрений в использовании генеративного искусственного интеллекта для написания судебного документа.
Дошло до суда: судью заподозрили в использовании ИИ при вынесении приговора
В документе, подписанном 78-летним федеральным судьей, нашли ссылки на вымышленные прецеденты и неверные данные. Теперь весь юридический мир обсуждает, как далеко может зайти неконтролируемое использование технологий.
Unsplash
Как пишет издание Mississippi Today, инцидент, произошедший в июле 2025 года, вызвал бурную реакцию в юридическом сообществе и поднял вопрос о надежности ИИ в правовой сфере.
Москвичку на работе заменили искусственным интеллектом, но она смогла вернуться через суд и получить компенсацию
Осторожнее с ИИ: в Роскомнадзоре допустили, что переписки с искусственным интеллектом могут использоваться в суде
Как не проиграть свое рабочее место искусственному интеллекту и сделать его своим союзником
Осторожнее с ИИ: в Роскомнадзоре допустили, что переписки с искусственным интеллектом могут использоваться в суде
Как не проиграть свое рабочее место искусственному интеллекту и сделать его своим союзником
Главным фигурантом дела стал 78-летний федеральный судья из округа Миссисипи Генри Уингейт. Он вынес судебное распоряжение, которое приостанавливало действие закона штата о многообразии и инклюзивности в образовании. После публикации документа юристы обнаружили в нем множество грубых фактических ошибок, которые, по мнению экспертов, характерны для так называемых «галлюцинаций» нейросетей — уверенного генерирования вымышленных данных.
В первоначальной версии постановления в качестве истцов были указаны организации, которые не принимали участия в процессе, в частности Ассоциация библиотек Миссисипи и компания Delta Sigma Theta Sorority Inc. Кроме того, в тексте содержались ссылки на несуществующие судебные дела, включая прецедент якобы 1974 года, который отсутствует в каких-либо судебных базах.
Документ также приводил недостоверные цитаты из закона о дискриминации по половому признаку и, по некоторым данным, даже ссылался на показания несуществующих свидетелей.
После того как на ошибки было указано, судья Уингейт отозвал распоряжение и в течение трех дней представил исправленную версию. Однако и в новом документе юристы вновь обнаружили неточности, включая ссылку на то же вымышленное дело 1974 года.
Этот случай привлек особое внимание, поскольку под подозрением впервые оказался не юрист, а сам судья. Ранее в США уже были прецеденты, когда адвокатов штрафовали за предоставление суду документов, сгенерированных ИИ и содержащих ошибки. Однако в ситуации с судьей механизм обратной проверки и привлечения к ответственности фактически отсутствует.
Как отмечают эксперты, если судья может потребовать объяснений от юриста, то задать вопросы самому судье, подписавшему решение, гораздо сложнее.
Сам Генри Уингейт, который ранее получал награду от бывшего президента США Рональда Рейгана, от публичных комментариев по поводу инцидента отказался. По информации из некоторых источников, на время проведения разбирательства он был отстранен от работы.
Тем временем, мнения в юридической среде по этому делу разделились: часть адвокатов сомневается в версии с использованием ИИ, тогда как эксперты по нейросетям видят в ошибках все признаки машинной генерации.