В Сиднее задержали 29-летнего мужчину, который, по данным спецслужб, угрожал устроить стрельбу в детском центре во время разговора с чат-ботом Claude. Его сообщения оказались в поле зрения Интерпола. Суд оставил мужчину под стражей и направил на психиатрическое обследование.
Мужчину арестовали из-за разговора с Claude. Он планировал стрельбу в центре для детей
Спецслужбы могут получить доступ к содержимому ваших переписок с ИИ.
Unsplash
Мужчину задержали 18 октября. Согласно представленным суду материалам, во время общения с Claude (причем в голосовом формате!) он заявил о намерении отправиться в ближайший торговый центр и открыть стрельбу в расположенном там учреждении для детей. После этого его аккаунт в сервисе заблокировали.
Австралийская полиция предъявила мужчине обвинение в использовании средства связи для угроз, преследования или оскорбления. На судебном заседании обвинение настаивало на содержании под стражей, ссылаясь на потенциальную опасность возможных действий обвиняемого. Суд постановил направить его на оценку психического состояния.
Один из главных вопросов в этой истории — каким образом разговор с Claude стал известен правоохранительным органам. Согласно сообщениям о судебном заседании, именно Интерпол обратил внимание на переписку, после чего мужчину задержали.
При этом публично не объяснялось, кто обнаружил сообщения и передал их организации. Неизвестно также, направляла ли переписку компании Anthropic, разработчик Claude, самостоятельно или она попала к правоохранительным органам другим путем. В первоначальном сообщении The Sydney Morning Herald, на которое ссылаются публикации, эти подробности не раскрывались.
Продолжение ниже
Видео
Продолжение
Зато история в очередной раз подтверждает: не стоит общаться с ИИ так, будто ведете разговор с личным психологом или близким другом. Ваши слова обязательно используют против вас. Даже в том случае, если вы не задумывали ничего дурного, а вас просто неправильно интерпретировали.
В целом, стоит отказаться от общения с ИИ на щекотливые темы. Современные модели сконструированы таким образом, чтобы поддерживать человека и продолжать разговор любой ценой. А это может привести к тому, что безобидный диалог свернет не в ту сторону, а после ваши же сообщения начнут работать против вас.
Единственный надежный вариант сохранить данные в безопасности, а переписку защищенной, общаться с локальными моделями. Топовые варианты мало чем уступают флагманам, а для базового общения наверняка хватит даже не самой мощной. Однако это требует инвестиций в железо. Для актуальных и мощных моделей требуются десятки гигабайт памяти, а она сейчас стоит аномально дорого. И дешевле в ближайшие годы не будет.
Загружаем