Переписки с искусственным интеллектом могут быть опасны. И речь не только об ИИ-психозах и других неприятных последствиях использования ИИ. Как выяснили журналисты The Washington Post, суды США активно используют переписки с ИИ в качестве улик в рамках уголовных и иных дел.
Спросил у ИИ о компенсации и стал фигурантом уголовного дела: переписки с ChatGPT могут использоваться в суде
Власти США требуют у OpenAI переписки пользователей в 4 раза чаще.
Magnific
Так, были обнаружены упоминания чат-ботов как минимум в 12 судебных делах за последние два года. Реальное количество подобных случаев наверняка больше, поскольку многие улики остаются непубличными.
Российских учителей отправят учиться: 250 тысяч педагогов будут обучаться работе с искусственным интеллектом
В российских школах появится новый предмет: с 1 сентября школьники будут изучать искусственный интеллект
Искусственный интеллект оставит нас без работы: каждый месяц из-за ИИ исчезает 16 тысяч рабочих мест
В российских школах появится новый предмет: с 1 сентября школьники будут изучать искусственный интеллект
Искусственный интеллект оставит нас без работы: каждый месяц из-за ИИ исчезает 16 тысяч рабочих мест
Продолжение ниже
Видео
Продолжение
Журналисты приводят несколько случаев, когда переписки реально меняли ход дела. Например, подросток подал против социальных сетей иск, утверждая, что заработал проблемы со здоровьем. Но судьи изучили его переписку с ИИ и выяснили, что истец обсуждал с искусственным интеллектом возможную компенсацию в миллион долларов. Этот факт стал поводом для отказа в возбуждении дела и теоретически мог привести к ответному иску. При этом формально подросток мог и не врать: просто уточнил, на какую компенсацию он может рассчитывать.
И защищать тайну переписки никто не будет. ИИ — это не адвокат, врач или священник, поэтому OpenAI с удовольствием предоставит всю информацию о пользователе следственным органам. Более того, компания часто действует по собственной инициативе, не дожидаясь судебных запросов.
Так произошло, например, во Флориде. Компания OpenAI самостоятельно связалась с ФБР, когда пользователь начал описывать планы нападения на бывшую девушку. Злоумышленника оперативно вычислили и арестовали за преследование и электронные угрозы. Впоследствии он признал вину и получил восемь лет условного срока.
Уже сегодня OpenAI использует специальное программное обеспечение для выявления потенциально опасного поведения. Если алгоритмы фиксируют реальную угрозу, компания передаёт данные правоохранительным органам. Во второй половине 2025 года число таких запросов от властей выросло в четыре раза.
И пусть формально на Россию это не распространяется — ChatGPT официально у нас не представлен, в диалоге с ИИ нужно оставаться предельно осторожными. Мало того, что модель может врать, ошибаться и давать откровенно вредные советы, она еще способна подвести под реальную статью. Даже если вы спрашивали из праздного интереса и не задумывали ничего противозаконного.
Загружаем